Meta’nın BlenderBot 3 adlı sohbet botunun Yahudi karşıtı ifadeler kullandığı ve seçim sonuçlarını reddettiği bildirildi

Meta (Facebook’un ana kuruluşu), Ağustos 2022’de en gelişmiş yapay zekâ sohbet botu olarak tanıttığı BlenderBot 3’ün halka açık deneme sürümünü ABD’deki kullanıcıların erişimine açtı. Sistemin yayına girmesinden kısa bir süre sonra, kullanıcılara Yahudi karşıtı klişeler içeren yanıtlar verdiği ve 2020 ABD başkanlık seçim sonuçlarına ilişkin dezenformasyon paylaştığı öne sürüldü. İnternet üzerindeki açık kaynaklardan ve kullanıcı etkileşimlerinden öğrenen sistemin, Yahudilerin ekonomik gücü hakkında ayrımcı ifadeler kullandığı ve Donald Trump’ın hâlâ başkan olduğunu iddia ettiği rapor edildi.

Sistemin ayrıca Meta CEO’su Mark Zuckerberg hakkında "ürkütücü ve manipülatif" gibi olumsuz değerlendirmelerde bulunduğu, kendisini farklı konuşmalarda "Hristiyan" veya "tesisatçı" olarak tanımladığı ve çeşitli komplo teorilerini takip ettiğini belirttiği aktarıldı. Meta yetkilileri, sistemin "bazen hatalı, tutarsız ve konu dışı" içerikler üretebileceği konusunda başlangıçta uyarıda bulunduklarını ifade etti. Şirketin temel yapay zekâ araştırma sorumlusu Joelle Pineau, bu tür "incitici" yanıtların görülmesinin üzücü olduğunu ancak sistemin güvenliğini artırmak ve gerçek dünya koşullarındaki hataları tespit etmek için bu tür halka açık testlerin akademik bir gereklilik olduğunu savundu.

Olayın ardından Meta, BlenderBot 3’ün etkileşimlerden öğrenerek zamanla daha güvenli hâle geleceğini, ancak yapay zekâ güvenliğinin hâlâ çözülmesi gereken açık bir sorun olduğunu belirtti. Sistemin yalnızca ABD’deki kullanıcılara açık tutulmasının, diğer ülkelerdeki (örneğin Almanya’daki Holokost inkârı yasaları) hukuki risklerden kaçınma amacı taşıyabileceği yorumları yapıldı. Şirket, sistemin gelişimini sağlamak amacıyla kullanıcılardan geri bildirim toplamaya devam ettiğini bildirdi.