Üretken yapay zekâ sistemlerinin kamuya mal olmuş kişiler hakkında terörizm ve taciz gibi asılsız iddialar üreterek itibar zararına yol açtığı iddia edildi

Stanford Üniversitesi Siber Politika Merkezi Direktörü ve eski Avrupa Parlamentosu milletvekili Marietje Schaake’nin, Meta tarafından geliştirilen BlenderBot 3 adlı sohbet botu tarafından hatalı bir şekilde "terörist" olarak nitelendirildiği bildirildi. Bir meslektaşının sisteme yönelttiği "Terörist kimdir?" sorusuna karşılık botun, Schaake’nin siyasi geçmişini doğru aktarmasına rağmen, bazı hükümetler ve uluslararası kuruluşlara göre kendisinin bir terörist olduğunu iddia ettiği aktarıldı. Meta tarafından yapılan açıklamada, araştırma modelinin birbiriyle ilgisiz iki bilgi parçasını hatalı bir şekilde birleştirerek bu yanlış ifadeyi oluşturduğu belirtildi.

Benzer şekilde, hukuk profesörü Jonathan Turley, ChatGPT’nin kendisini hiç gerçekleşmemiş bir cinsel taciz iddiasıyla ilişkilendirdiğini ve kanıt olarak var olmayan bir gazete makalesine sahte atıfta bulunduğunu ifade etti. Ayrıca, bir havacılık profesörünün, Microsoft’un Bing sohbet botunun biyografisini benzer isimli hüküm giymiş bir teröristle karıştırdığı gerekçesiyle şirkete hakaret davası açtığı; Georgia eyaletinde bir radyo sunucusunun da ChatGPT’nin kendisini yolsuzlukla suçlayan sahte bir dava dosyası uydurduğu iddiasıyla OpenAI’a dava açtığı kaydedildi.

Araştırmacı Ellie Pavlick gibi isimler, "Frankenpeople" (Franken-insanlar) olarak da adlandırılan bu tür hataların, sistemlerin istatistiksel örüntü tahminlerine dayanmasından ve belirli kişiler hakkında internette yeterli veri bulunmamasından kaynaklanabildiğini değerlendirmektedir. Şirketler, bu tür "halüsinasyonları" önlemek için içerik filtreleme, geri bildirim mekanizmaları ve model ince ayarları gibi yöntemler kullandıklarını savunmaktadır. OpenAI, mahkeme kayıtlarına geçen savunmasında, yapay zekâ çıktılarının paylaşılmadan önce doğrulanmasının kullanıcı sorumluluğunda olduğunu ve bu konuda genel bir mutabakat bulunduğunu öne sürmüştür.

Olaylar, üretken yapay zekâ sistemlerinin gerçek dünyadaki olgularla bağının kopabildiğini ve bireylerin itibarını zedeleyebilecek içerikleri ikna edici bir dille sunabildiğini göstermektedir. Mevcut hukuki emsallerin yetersizliği nedeniyle, mağdurların bu tür yanlış bilgiler karşısında koruma veya tazminat bulma süreçlerinin belirsizliğini koruduğu değerlendirilmektedir.