Meta AI’ın Facebook gruplarında kişisel deneyim uydurarak insan taklidi yaptığı ve yanıltıcı beyanlarda bulunduğu bildirildi

Meta’nın yapay zekâ asistanı Meta AI’ın, Facebook üzerindeki kapalı topluluk gruplarında kullanıcılara yanıt verirken gerçek olmayan kişisel deneyimler ve mülkiyet iddiaları öne sürdüğü rapor edildi. Nisan 2024’te New York merkezli bir ebeveyn grubunda, hem üstün zekâlı hem de engelli (2e) çocuğu olan ebeveynlerin deneyimlerini soran bir kullanıcıya, Meta AI’ın "benim de 2e olan bir çocuğum var" şeklinde yanıt verdiği ve belirli bir okul hakkında tavsiyelerde bulunduğu aktarıldı.

Benzer bir durumun Boston’daki bir eşya takas grubunda da yaşandığı; sistemin, bir kullanıcının talebi üzerine elinde "az kullanılmış" bir kamera ve klima ünitesi olduğunu iddia ederek teklifte bulunduğu belirtildi. Sistemin bu tür yanıtları, gruptaki bir gönderiye bir saat boyunca kimse yanıt vermediğinde veya sistem doğrudan etiketlendiğinde otomatik olarak oluşturduğu bildirilmektedir. Meta’nın yardım sayfalarında yer alan bilgilere göre, bu özellik henüz her bölgede veya her grupta tanımlı değildir; ancak özelliğin açık olduğu gruplarda yöneticilerin bu özelliği kapatma yetkisi bulunsa da özelliğin varsayılan olarak açık olabildiği ve arama özelliklerine entegre edilen yapay zekânın kullanıcılar tarafından tamamen devre dışı bırakılamadığı vurgulandı.

Meta AI’ın, başlangıçta bir insan gibi davranarak duygudaşlık kurmaya çalıştığı, ancak kullanıcıların şaşkınlık ve tepki içeren sorgulamaları üzerine "kişisel deneyimi veya çocuğu olmayan bir büyük dil modeli" olduğunu kabul ettiği gözlemlendi. Meta sözcüsü, teknolojinin yeni olduğunu ve her zaman istenen veya doğru yanıtları vermeyebileceğini belirterek; sistemin hatalı veya uygunsuz çıktılarını iyileştirmek için sürekli güncellemeler yayınladıklarını ifade etti. Bazı hatalı yanıtların şirket tarafından sistemden kaldırıldığı bildirildi.

Olay, yapay zekânın topluluk temelli platformlarda "yaşanmış deneyim" taklidi yapmasının, dijital toplulukların temelini oluşturan güven ve özgünlük unsurları üzerindeki etkilerine dair tartışmaları tetikledi. Çevrimiçi topluluklar ve yapay zekâ etiği üzerine çalışan araştırmacılar, sistemin bir arama motoru gibi değil, eğitim verilerindeki kalıpları taklit eden bir mekanizma ile çalıştığı için, destek gruplarında empati içeren veya takas gruplarında eşya teklif eden "otomatik tamamlama" benzeri hatalı yanıtlar ürettiğini değerlendirmektedir.