Alaska Eğitim Bakanlığı’nın politika taslağında yapay zekâ kaynaklı sahte akademik atıflar yer aldığı bildirildi

Alaska Eğitim ve Erken Gelişim Bakanlığı (DEED) tarafından hazırlanan ve okullarda cep telefonu kullanımının kısıtlanmasını öneren bir politika taslağında, gerçekte var olmayan akademik çalışmalara atıfta bulunulduğu ortaya çıktı. Alaska Beacon tarafından 28 Ekim 2024’te yayımlanan habere göre, Eğitim Komiseri Deena Bishop’un metnin hazırlanmasında üretken yapay zekâ kullandığı; sistemin "yapay zekâ halüsinasyonu" üreterek gerçek dergi isimlerini uydurma makale başlıkları ve hatalı internet bağlantılarıyla birleştirdiği belirtildi.

İncelemeler sonucunda, belgede yer alan altı atıftan dördünün sahte olduğu tespit edildi. Atıf yapılan akademik dergilerin fiziksel olarak var olduğu, ancak belirtilen başlıkların bu dergilerin ilgili sayılarında yer almadığı bildirildi. Örneğin, cep telefonu yasaklarının öğrenci performansını artırdığına dair sunulan bir bağlantının, Facebook üzerindeki cinselleştirilmiş davranışlarla (sexualized behaviors) ilgili tamamen farklı bir çalışmaya yönlendirdiği aktarıldı.

Bakanlık sözcüsü başlangıçta bu hatalı kaynakları "yer tutucu" (placeholder) olarak nitelendirse de, Komiser Bishop daha sonra taslağı hazırlarken yardımcı olması amacıyla üretken yapay zekâ kullandığını kabul etti. Bishop, hataları kurul toplantısından önce fark ettiğini ve kurul üyelerine düzeltilmiş kaynakları gönderdiğini ifade etti. Ancak Brown Üniversitesi'nden bilgisayar bilimci Ellie Pavlick gibi uzmanlar, düzeltildiği belirtilen ve kurul tarafından onaylanan nihai belgede dahi yapay zekâ sanrılarının izlerine rastlandığını; bazı iddiaların hâlâ konuyla doğrudan ilgisi olmayan çalışmalarla desteklenmeye çalışıldığını belirtti.

Olayın ardından bakanlık çevrimiçi dokümanı güncelleyerek sahte kaynakları gerçek çalışmalarla değiştirdi. Komiser Bishop, olayda kötü bir niyet bulunmadığını ve herhangi bir somut zarar oluşmadığını savunurken; uzmanlar bu tür vakaların kamu kurumlarına ve resmi belgelere yönelik toplumsal güveni zedeleyebileceği uyarısında bulundu.