Microsoft Copilot’un bir adliye muhabirini haberleştirdiği suçların faili olarak sunduğu ve kişisel bilgilerini ifşa ettiği bildirildi

Almanya’nın Tübingen kentinde uzun yıllardır adliye muhabirliği yapan gazeteci Martin Bernklau’nun, Microsoft’un üretken yapay zekâ sistemi Copilot tarafından ağır suçlarla itham edildiği bildirildi. Bernklau’nun sistem üzerinde kendi adını aratması üzerine Copilot’un; gazetecinin çocuk istismarı ve savunmasız kişileri sömürme suçlarından mahkûm edildiği, bir psikiyatri hastanesinden kaçtığı ve dul kadınları dolandıran etik dışı bir cenaze levazımatçısı olduğu yönünde asılsız iddialar ürettiği öne sürüldü.

Sistemin, Bernklau’nun onlarca yıldır takip ettiği şiddet, istismar ve dolandırıcılık davalarına ilişkin internetteki haber içeriklerini ve kişisel kültür bloğundaki tiyatro oyunu incelemelerini (örneğin seri katil Fritz Haarmann hakkındaki 'Totmacher' oyunu) hatalı ilişkilendirdiği değerlendirilmektedir. Copilot’un, haberin yazarı ile haberdeki sanıkları ayırt edemeyerek gazeteciyi suçların faili olarak sunduğu iddia edildi. Ayrıca sistemin, Bernklau’nun ev adresi ve telefon numarası gibi kişisel verilerini bir rota planlayıcı eşliğinde paylaştığı ve "böyle bir geçmişi olan birinin aile sahibi olmasının üzücü olduğu" şeklinde ahlaki yorumlarda bulunduğu aktarıldı.

Olayın ardından Bernklau’nun avukatı aracılığıyla Microsoft’a ihtarname gönderdiği; şirketin hatalı içerikleri kaldırma girişimlerinin ise yalnızca geçici sonuç verdiği belirtildi. SWR’nin raporuna göre, silinen hatalı bilgilerin birkaç gün sonra sistemde yeniden belirdiği ifade edildi. Microsoft’un kullanım şartlarında üretilen yanıtlardan sorumlu olmadığını belirttiği hatırlatılırken; Tübingen Savcılığı’nın, ithamların yazarının gerçek bir kişi olmaması nedeniyle ortada işlenmiş bir suç bulunmadığı gerekçesiyle cezai işlem yapmayı reddettiği bildirildi.

Sistemin iddialarına dayanak olarak sunduğu kaynakların; 1945 Nürnberg duruşmaları, bir müze açılışı ve bir futbolcunun milli marş söylediği videolar gibi konuyla ilgisiz içerikler olduğu tespit edildi. Bu durum, büyük dil modellerinin bilgiyi doğrulama yeteneğinden yoksun olduğunu ve istatistiksel olasılıklara dayalı "halüsinasyon" üretme riskini bir kez daha gündeme getirdi. Benzer bir veri koruma ihlali gerekçesiyle, dijital haklar örgütü Noyb’un da OpenAI aleyhine Avrupa genelinde şikâyette bulunduğu bilinmektedir.