Dezenformasyon uzmanının mahkemeye sunduğu beyanda yapay zekâ tarafından uydurulduğu öne sürülen kaynaklara yer verdiği iddia edildi

Stanford Sosyal Medya Laboratuvarı kurucu direktörü Profesör Jeff Hancock’un, Minnesota’da seçimlerde "deepfake" teknolojisinin kullanımını yasaklayan yeni bir yasayı savunmak amacıyla mahkemeye sunduğu uzman beyanında, gerçekte var olmayan akademik kaynaklara atıfta bulunduğu öne sürüldü. Minnesota Başsavcısı Keith Ellison’ın talebiyle hazırlanan beyanda yer alan bazı çalışmaların, akademik veri tabanlarında kaydının bulunmadığı ve atıf yapılan dergi sayfalarında farklı makalelerin yer aldığı tespit edildi.

Davacı avukatları ve hukuk profesörü Eugene Volokh tarafından yapılan incelemelerde, beyanda geçen "The Influence of Deepfake Videos on Political Attitudes and Behavior" ve "Deepfakes and the Illusion of Authenticity" başlıklı çalışmaların uydurma olduğu değerlendirildi. Söz konusu hatalı atıfların, ChatGPT gibi büyük dil modellerinin karakteristik "halüsinasyon" belirtilerini taşıdığı; bu durumun, uzmanlık alanı teknoloji ve dezenformasyon olan bir ismin hazırladığı belgenin güvenilirliğini tartışmaya açtığı ifade edildi.

Olayın ardından Profesör Hancock, Stanford Sosyal Medya Laboratuvarı ve Başsavcılık makamı konuyla ilgili açıklama taleplerine yanıt vermedi. Sahte kaynakların Hancock’un kendisi, bir asistanı veya başka bir tarafça mı sisteme dahil edildiği henüz netlik kazanmadı. Davacı avukatları, yapay zekâ kaynaklı bu dezenformasyonun mahkemeye sunulmasının, "yanlış bilginin panzehirinin sansür değil, doğru bilgi olduğu" yönündeki argümanlarını güçlendirdiğini savundu.

Hukuk sisteminde daha önce de benzer vakalar yaşandığı; 2023 yılında New York’ta iki avukatın ChatGPT tarafından uydurulan sahte dava örneklerini mahkemeye sundukları için yaptırıma maruz kaldığı bilinmektedir. Ancak bu vakada, dezenformasyon konusunda dünyanın önde gelen uzmanlarından birinin benzer bir hatayla ilişkilendirilmesi, akademik ve hukuki çevrelerde dikkat çekici bir gelişme olarak değerlendirildi.