Google AI Overviews’un tuvalet eğitimi için balon üzerine gerçek dışkı sürülmesini önerdiği bildirildi

Google’ın arama sonuçlarının üst kısmında sunduğu "AI Overviews" (Yapay Zekâ Genel Bakış) özelliğinin, çocuklara tuvalet eğitimi verilmesiyle ilgili sorgularda hijyenik olmayan ve potansiyel sağlık riskleri barındıran bir yöntem önerdiği bildirildi. Sistemin, çocuklara dışkı sonrası temizlik yapmayı öğretmek için bir sandalyeye bağlanan balonun üzerine gerçek insan dışkısı sürülmesini ve çocuğun bu balonu silerek pratik yapmasını tavsiye ettiği aktarıldı.

Yapılan incelemede, yapay zekâ sisteminin bu hatalı çıkarımı Avustralyalı pediatrik ergoterapistler tarafından 2022 yılında yayımlanan bir eğitim videosundan aldığı belirlendi. Söz konusu videoda uzmanların, "balon yöntemi" olarak bilinen teknik için aslında tıraş köpüğü kullandıkları, ancak anlatım sırasında bu köpüğe mecazi olarak "dışkı" dedikleri tespit edildi. Google’ın büyük dil modeli tabanlı sisteminin, videodaki bu bağlamsal nüansı ve mecazi anlatımı doğru analiz edemeyerek, yöntemi gerçek bir talimat gibi sunduğu değerlendirilmektedir.

Google sözcüsü konuya ilişkin yaptığı açıklamada, AI Overviews sisteminin dinamik olduğunu ve bu özel örnekte bazı özetlerin ipucunu bağlamsallaştırmaya yardımcı olacak tırnak işaretlerini içerdiğini, ancak bazılarında bu işaretlerin eksik kaldığını belirtti. Şirket, sistemin doğruluğunu artırmak için bu tür örnekleri kullandıklarını ve hatalı yanıtlar üzerinde düzeltme çalışmaları yürüttüklerini ifade etti.

Olayın, üretken yapay zekâ sistemlerinin internetteki karmaşık içerikleri yorumlarken önemli ayrıntıları kaçırabildiğini ve bu durumun kullanıcı güvenliğini riske atan hatalı yönlendirmelere yol açabildiğini gösterdiği belirtilmektedir. Benzer şekilde sistemin daha önce de kullanıcılara pizza üzerine yapıştırıcı sürmek veya taş yemek gibi hatalı tavsiyelerde bulunduğu hatırlatıldı.