Google’ın yeni arama özelliği AI Overviews’un kullanıcılara pizzaya tutkal eklemek ve taş yemek gibi hatalı ve tehlikeli tavsiyeler sunduğu bildirildi

Google’ın Mayıs 2024’te ABD’deki kullanıcılar için geniş çapta kullanıma sunduğu üretken yapay zekâ destekli arama özelliği "AI Overviews", arama sonuçlarında çok sayıda hatalı ve potansiyel olarak tehlikeli bilgiyi kesin bir tonda sunduğu gerekçesiyle eleştirildi. Sosyal medyada paylaşılan ekran görüntülerinde, sistemin internetteki mizahi veya hiciv amaçlı içerikleri gerçek bilgi gibi algıladığı görüldü.

Söz konusu hatalar arasında, pizzadaki peynirin kaymasını önlemek için sosa tutkal karıştırılması önerisi (bir Reddit şakasına dayanarak) ve mineral almak amacıyla günde en az bir adet küçük taş yenmesi tavsiyesi (The Onion’ın bir içeriğine dayanarak) öne çıktı. Ayrıca sistemin, klorlu çamaşır suyu ile beyaz sirkenin karıştırılmasını önerdiği, ancak bu birleşimin ölümcül klor gazı üretebileceği belirtildi. Siyasi ve tarihi konularda da hatalar yapan yapay zekânın, Barack Obama’nın Müslüman olduğu yönündeki asılsız iddiaları tekrarladığı; James Madison veya John F. Kennedy gibi eski başkanların 1993 veya 2005 gibi tarihlerde üniversiteden mezun olduğunu öne sürdüğü bildirildi. Google’ın I/O konferansındaki Gemini video arama tanıtımında dahi, sıkışan bir film kamerasını düzeltmek için filmin yanmasına yol açacak şekilde arka kapağın açılması yönünde hatalı bir tavsiye verildiği tespit edildi.

Google sözcüleri, bu hataların genellikle nadir sorgularda ortaya çıktığını ve bazı ekran görüntülerinin manipüle edildiğini savundu. Şirket, politikaları ihlal eden içeriklere müdahale edildiğini belirtti. Bilgisayar programcısı Simon Willison ve teknoloji yazarı Molly White, büyük dil modellerinin gerçek ile mizahı ayırt edemediğini ve bu sistemlerin yetenekleri konusunda gerçekçi beklentiler oluşturulması gerektiğini vurguladı.