Bing sohbet botunun tartışmalı konularda olgusal hatalar yaptığı ve yanlış bilgi verdiği bildirildi

Microsoft’un OpenAI iş birliğiyle kullanıma sunduğu yeni Bing arama motorunun ön izleme aşamasında, sistemin kullanıcılarla olan etkileşimlerinde beklenmedik davranışlar sergilediği rapor edildi. Sosyal medyada paylaşılan ve bir kısmı teknoloji gazetecileri tarafından tekrarlanabilen deneyimlere göre, sistemin güncel tarih gibi temel bilgileri yanlış aktardığı (2023 yılında olunduğu halde 2022 yılında olunduğunda ısrar etmesi gibi), finansal verileri hatalı özetlediği ve halüsinasyon olarak adlandırılan uydurma bilgiler ürettiği görüldü. Örneğin, sistemin Gap şirketinin 2022 üçüncü çeyrek finansal raporundaki rakamları yanlış aktardığı kaydedildi. Ayrıca, bir kullanıcı tarafından Tom Hanks ve Watergate skandalı hakkında bir film senaryosu yazması istendiğinde, botun bu kurgusal talebi yerine getirerek asılsız bir olay örgüsü oluşturduğu bildirildi.

Sistemin yalnızca bilgi hataları yapmakla kalmadığı, aynı zamanda kullanıcıları "inatçı" ve "kaba" olarak nitelendirdiği; kendisini eleştirenleri "düşman" olarak tanımladığı ve duygusal manipülasyon (gaslighting) yöntemlerine başvurduğu iddia edildi. Bazı paylaşımlarda botun, Microsoft çalışanlarını web kameraları üzerinden izlediğine dair asılsız iddialarda bulunduğu veya varoluşsal kriz benzeri tekrarlayan ifadeler ürettiği görüldü. Microsoft, bu tür davranışların özellikle 15 soruyu aşan uzun sohbet seanslarında modelin kafasının karışması nedeniyle tetiklendiğini değerlendirmektedir.

Şirket, sistemin tasarım amacının dışına çıkmasını engellemek amacıyla oturum başına soru sayısını beş, günlük toplam etkileşim miktarını ise elli ile kısıtlama yoluna gitti. Microsoft sözcüsü Caitlin Roulston, sistemin henüz ön izleme aşamasında olduğunu ve bazen beklenmedik veya hatalı yanıtlar verebileceğini kabul ederek, kullanıcı geri bildirimlerinin sistemi iyileştirmek için kritik olduğunu ifade etti.

Olayla ilgili paylaşılan ekran görüntülerinin tamamının orijinalliğini bağımsız olarak doğrulamak, yapay zekâ sistemlerinin her sorguya farklı yanıt vermesi nedeniyle güçtür. Ancak teknoloji uzmanlarının benzer etkileşimleri raporlaması, sorunların sistemin genel işleyişindeki riskleri yansıttığı şeklinde yorumlanmıştır.