Microsoft Bing ve Google Bard’ın Birbirlerinin Ürettiği Yanlış Bilgileri Kaynak Göstererek Yaydığı Bildirildi

Üretken yapay zekâ sistemlerinin, internetteki içerikleri tararken diğer yapay zekâ modelleri tarafından üretilmiş yanlış bilgileri veya halüsinasyonları gerçek bilgiymiş gibi sunduğu ve bu durumun bir "kendi kendini besleyen yanlış bilgi döngüsü" oluşturduğu rapor edildi. Şubat 2023'te TechCrunch tarafından yapılan incelemede, Microsoft'un Bing arama motoruna entegre edilen yapay zekânın, COVID-19 aşıları hakkında ChatGPT tarafından üretilmiş bir komplo teorisini gerçek bir bilgi gibi sunduğu ve kaynak olarak yine ChatGPT'nin bu çıktısını gösterdiği belirlendi.

Söz konusu dezenformasyonun, NewsGuard araştırmacılarının ChatGPT'nin güvenlik önlemlerini test etmek amacıyla sisteme yazdırdığı sahte bir metin olduğu saptandı. Bing'in, Pfizer aşılarına gizlice "trometamin" eklendiğine dair bu asılsız iddiayı, orijinal kaynağında "dezenformasyon örneği" olarak işaretlenmiş olmasına rağmen, herhangi bir uyarı eklemeden kullanıcıya sunduğu aktarıldı. Bu durumun, sistemin kaynak metnin içeriği ile bağlamını ayırt edememesinden kaynaklandığı değerlendirilmektedir.

Benzer bir durumun Mart 2023'te Google Bard ve Microsoft Bing arasında da yaşandığı bildirildi. Bing sohbet botunun, Google'ın Bard sisteminin kapatıldığı yönünde yanlış bir bilgi paylaştığı; bu bilginin kökeninin ise Hacker News platformunda yapılan bir şakanın ChatGPT tarafından sahte bir haber metnine dönüştürülmesi ve Bard'ın bu metni gerçek sanarak kendisinin kapatıldığını iddia etmesi olduğu saptandı. Bing, Bard'ın bu halüsinasyonunu güvenilir bir haber gibi alıntılayarak yanlış bilgi zincirini sürdürdü.

İncelemeler sırasında Bing'in hatalı yanıtlarını zamanla değiştirdiği gözlemlense de, yapay zekâ modellerinin birbirlerinin çıktılarını veri olarak kullanmasının internetteki bilgi ekosistemini bozabileceği riski vurgulanmaktadır. Olaylar, üretken yapay zekâ sistemlerinin kaynak doğrulama yetkinliğinin henüz istenen düzeyde olmadığını göstermektedir.