Google Gemini’nin tarihsel gerçeklikten uzak görseller üretmesi ve taraflı yanıtlar vermesi üzerine kişi görseli oluşturma özelliğinin askıya alındığı bildirildi

Google, Şubat 2024'te üretken yapay zekâ sistemi Gemini'nin kişi görseli oluşturma özelliğini, sistemin tarihsel figürleri ve olayları hatalı yansıttığına dair gelen tepkiler üzerine geçici olarak durdurduğunu açıkladı. Kullanıcıların; ABD'nin kurucu babaları, Vikingler veya Nazi dönemi Alman askerleri gibi tarihsel konularda görsel talep ettiklerinde, sistemin bu grupları gerçeğe aykırı şekilde etnik çeşitlilik içerecek biçimde sunduğu bildirildi. Bu durumun, yapay zekâ modellerindeki ırksal ve cinsiyet temelli önyargıları kırmak amacıyla uygulanan tekniklerin, tarihsel bağlamı göz ardı ederek aşırı düzeltme (over-correction) yapmasından kaynaklandığı belirtilmektedir.

Sorunun yalnızca görsellerle sınırlı kalmadığı; Gemini’nin metin tabanlı yanıtlarında da etik ve siyasi konularda tartışmalı ifadeler kullandığı öne sürüldü. Sistemin, Elon Musk ile Adolf Hitler’in toplumsal etkilerini kıyaslamayı reddettiği veya Stalin ile liberteryenizm arasında hangisinin daha zararlı olduğu sorusuna kesin bir yanıt vermekten kaçındığına dair paylaşımlar kamuoyuna yansıdı. Eleştirmenler, bu durumun sistemin hassas konularda aşırı temkinli davranacak şekilde programlanması veya belirli bir siyasi görüşün yansıması sonucunda oluştuğunu iddia etti. Bu tutum, "tarihsel revizyonizm" veya "siyasi taraflılık" tartışmalarına yol açtı.

Google CEO’su Sundar Pichai, yaşananları "tamamen kabul edilemez" olarak nitelendirerek özür diledi. Şirket tarafından yapılan resmi açıklamada, çeşitliliği sağlama amacıyla yapılan ince ayarların tarihsel gerçeklik gerektiren durumları hesaba katamadığı ve modelin zamanla hedeflenenden daha kısıtlayıcı hale gelerek bazı basit istemleri bile reddettiği kabul edildi. Olayın ardından ana şirket Alphabet’in piyasa değerinde bir günde yaklaşık 70 milyar dolarlık bir kayıp yaşandığı bildirildi. Google, kişi görseli üretimini kapsamlı testler ve yapısal iyileştirmeler tamamlanana kadar askıya aldığını duyurdu.