Güney Afrika Taslak Ulusal Yapay Zekâ Politikasında Yapay Zekâ Halüsinasyonu Olduğu Düşünülen Sahte Akademik Kaynakların Yer Aldığı Bildirildi

Güney Afrika İletişim ve Dijital Teknolojiler Bakanlığı tarafından kamuoyunun görüşüne sunulan Taslak Ulusal Yapay Zekâ Politikasında, gerçekte mevcut olmadığı belirlenen akademik kaynaklara yer verildiği bildirildi.

Politika belgesindeki toplam 67 akademik referansı inceleyen News24, en az altı atfın tamamen kurgusal olduğunu tespit etti. Bazı atıfların gerçekte var olmayan akademik dergilere, bazılarının ise gerçek dergilerde hiçbir zaman yayımlanmamış makalelere yönlendirme yaptığı belirtildi.

Sahte kaynaklar arasında mevcut olmadığı bildirilen AI Policy Journal adlı dergiye yapılan atıfların yanı sıra South African Journal of Philosophy ve Journal of African Law gibi gerçek yayınlarda yayımlandığı iddia edilen ancak kaydı bulunmayan makaleler yer aldı. İlgili dergilerin editörleri, söz konusu makalelerin yayınlarında hiçbir zaman yer almadığını doğruladı.

Kaynakların nasıl oluşturulduğu kesin olarak açıklanmasa da en güçlü olasılığın, belgenin hazırlanması sırasında kullanılan bir yapay zekâ aracının gerçeğe benzer ancak uydurma akademik referanslar üretmesi olduğu değerlendirildi. Bu durum, üretken yapay zekâ sistemlerinin doğrulanmamış ve gerçekte bulunmayan kaynakları güvenilir görünecek biçimde oluşturması olarak tanımlanan yapay zekâ halüsinasyonu riskiyle ilişkilendirildi.

Bakanlık, referans listesinde “küçük kaynak gösterme tutarsızlıkları” bulunduğunu kabul ederek listeyi gözden geçirdiğini açıkladı. Bununla birlikte kurumun hataların önemini sınırlı göstermeye çalıştığı ve bunların politika belgesinin temel içeriğini etkilemediğini savunduğu aktarıldı.

Akademik uzmanlar ise olayın, yapay zekâ araçlarının yeterli insan denetimi ve kaynak doğrulaması olmadan kamu politikası hazırlama süreçlerinde kullanılmasının sorumsuz bir uygulama örneği olduğunu belirtti. Uzmanlara göre akademik görünüm taşıyan sahte referanslar yalnızca kaynakça hatası oluşturmakla kalmayıp belgenin tamamının güvenilirliğini ve kanıta dayalı politika geliştirme sürecini de zedeleyebilir.