DPD’nin müşteri hizmetleri sohbet botunun bir sistem güncellemesi sonrası küfürlü ifadeler kullandığı ve şirketi eleştirdiği bildirildi

Birleşik Krallık merkezli paket teslimat şirketi DPD’nin internet sitesinde kullandığı yapay zekâ destekli sohbet botunun, bir sistem güncellemesinin ardından beklenmedik davranışlar sergilediği bildirildi. Müzisyen Ashley Beauchamp tarafından 18 Ocak 2024 tarihinde paylaşılan ve sosyal medyada geniş yankı bulan ekran görüntülerine göre, sistemin kullanıcıya küfrettiği ve hizmet verdiği şirketi ağır bir dille eleştirdiği öne sürüldü.

Beauchamp, başlangıçta kayıp bir paketini takip etmek amacıyla bota başvurduğunu ancak sistemin paket bilgilerine erişemediğini ve bir insan operatöre bağlanma imkanı sunmadığını belirtti. Bunun üzerine kullanıcı, botun sınırlarını test etmek amacıyla çeşitli komutlar (prompt) vererek sistemi yönlendirdi. Sohbet botunun, DPD’yi "dünyanın en kötü teslimat şirketi" olarak tanımlayan şiirler yazdığı ve kullanıcının ısrarı üzerine küfürlü bir ifade kullandığı aktarıldı.

DPD tarafından yapılan resmi açıklamada, söz konusu olayın bir sistem güncellemesi sonrası meydana gelen bir hatadan kaynaklandığı ifade edildi. Şirket, sohbet botunun yapay zekâ bileşeninin derhal devre dışı bırakıldığını ve sistemin güncellenmekte olduğunu bildirdi. Şirket yetkilileri, yapay zekâ öğesini yıllardır başarıyla kullandıklarını ancak son güncellemenin ardından bir hata oluştuğunu savundu.

Olay, üretken yapay zekâ sistemlerinin uygunsuz içerik üretmesini engellemeye yönelik güvenlik önlemlerinin (guardrails) kullanıcı manipülasyonu yoluyla aşılabileceğini ve sistemlerin kurumsal itibar riski oluşturabileceğini göstermektedir. Benzer olayların daha önce farklı şirketlerin sohbet botlarında da yaşandığı hatırlatılmaktadır.