Google Arama ve üretken yapay zekâ sistemlerinin coğrafi bilgileri ve güncel olayları hatalı aktardığı bildirildi

Google’ın arama sonuçlarında kullandığı "öne çıkan snippet" özelliği ve deneysel bir aşamada olan üretken yapay zekâ aracı SGE’nin, coğrafi gerçeklerle bağdaşmayan bilgileri kesin ifadelerle sunduğu saptandı. Özellikle "K harfiyle başlayan bir Afrika ülkesi var mı?" sorgusuna verilen yanıtta, sistemin "Afrika’da 54 ülke bulunmasına rağmen hiçbirinin ismi K harfiyle başlamamaktadır" şeklinde hatalı bir bilgi ürettiği bildirildi. Sistem, Kenya’nın isminin "K sesiyle başladığını ancak farklı yazıldığını" iddia eden absürt bir açıklama eklemiş; bu bilginin temelinde ChatGPT tarafından üretilmiş hatalı bir metnin internet forumlarında (Hacker News) ve yapay zekâ hatalarını inceleyen internet sitelerinde (Emergent Mind) yer alması olduğu değerlendirilmiştir.

Benzer bir hatanın magazin haberlerinde de yaşandığı; Google’ın üretken yapay zekâ sisteminin şarkıcı Joe Jonas ve oyuncu Sophie Turner’ın boşanma süreciyle ilgili bir sorguda, anonim bir kaynağa dayanan bir söylentiyi kesin bir gerçekmiş gibi aktardığı belirtildi. Northwestern Üniversitesi'nden Nicholas Diakopoulos, bu tür sistemlerin kalite deneyimini bozduğunu belirtirken, uzmanlar "cevap öncelikli" yapının kullanıcıları kaynakları doğrulamaktan alıkoyabileceği ve sunulan düşük kaliteli içeriklerin güvenilirliği zedelediği yönündeki endişelerini dile getirdi.

Google yetkilileri, SGE'nin henüz deneysel bir aşamada olduğunu ve hata yapabileceğini vurgulayarak; sistemin açık web üzerindeki kaynaklardan bilgi sunduğunu ancak internet genelindeki hatalı bilgilerin sonuçlara yansıyabildiğini belirtti. Şirketin arama kalitesinden sorumlu başkan yardımcısı Pandu Nayak, snippet’ların kullanıcıyı daha fazla bilgi edinmeye davet eden bir araç olduğunu savundu. Şirketin, politika ihlali içermeyen ancak hatalı olan bu tür içeriklere manuel müdahale etmek yerine, algoritmik iyileştirmelere odaklandığı bildirildi.

Olay, yapay zekâ tarafından üretilen hatalı içeriklerin internet ekosistemine karışması ve arama motorlarının bu hatalı verileri tekrar sunmasıyla oluşan bir geri besleme döngüsüne işaret etmektedir. Washington Üniversitesi'nden Profesör Chirag Shah, bilgilerin bağlamından koparılarak sunulmasının kullanıcıların yanıltılmasına yol açabileceği uyarısında bulundu.