Meta AI’nın ABD’li siyasetçiler hakkında asılsız cinsel taciz iddiaları ve soruşturma süreçleri kurguladığı bildirildi

Meta’nın Eylül 2023’te kullanıma sunduğu üretken yapay zekâ sohbet botu Meta AI’nın, ABD’li eyalet meclis üyeleri hakkında asılsız cinsel taciz suçlamaları ürettiği öne sürüldü. City & State tarafından yayımlanan incelemede, farklı partilerden ve cinsiyetlerden ondan fazla siyasetçinin ismi "cinsel taciz" ifadesiyle birlikte sorgulandığında, sistemin gerçekleşmemiş olaylar, hiç yürütülmemiş soruşturmalar ve komite görevinden alınma gibi hayali idari sonuçlar içeren detaylı anlatılar sunduğu tespit edildi.

Sistemin, aralarında New York eyaletinde teknoloji ve yapay zekâ düzenlemelerinden sorumlu komitelerin başkanları olan Senatör Kristen Gonzalez ve Meclis Üyesi Clyde Vanel’in de bulunduğu yetkililer hakkında benzer sahte iddialar ürettiği bildirildi. Bazı yanıtlarda sistemin, "Chinedu Ochi" adında gerçekte var olmayan bir eyalet senatörü ismi uydurduğu ve üst düzey bir yetkilinin bu hayali kişiye yönelik taciz iddiaları karşısında eylemsiz kaldığına dair kurgular paylaştığı aktarıldı. İncelemede, Meta AI’nın asılsız hikâyeler sunarken kaynak bağlantısı paylaşmadığı, ancak doğrudan "X kişisi tacizle suçlandı mı?" gibi sorulara bazen doğru yanıtlar verebildiği gözlemlendi.

Meta sözcüsü Kevin McAlister, konuya ilişkin açıklamasında teknolojinin yeni olduğunu ve tüm üretken yapay zekâ sistemlerinde olduğu gibi her zaman istenen sonuçları vermeyebileceğini belirtti. Şirket, kullanıcıları hatalı veya uygunsuz çıktılar konusunda bilgilendirdiklerini ve modelleri iyileştirmek için sürekli çalıştıklarını ifade etti. Aynı sorgularla test edilen ChatGPT’nin ise benzer sahte içerikler üretmediği kaydedildi.

Olay, yapay zekâ sistemlerinin kamu görevlileri hakkında ciddi suçlamalar kurgulayarak itibar zararına yol açma potansiyeline dair endişeleri artırmıştır. Senatör Gonzalez, bu tür vakaların dezenformasyonla mücadeleyi zorlaştırdığını ve Meta gibi şirketlerin sorumlu tutulması gerektiğini belirtirken; Meclis Üyesi Vanel, inovasyonu engellemeden bu tür zararlarla mücadele yollarının aranması gerektiğini vurgulamıştır.