Hoodline adlı yapay zekâ destekli haber sitesinin bir bölge savcısını asılsız yere cinayetle suçladığı bildirildi

Ekim 2024'te, ABD merkezli yerel haber ağı Hoodline’ın San Jose edisyonunda, San Mateo Bölge Savcısı’nın bir cinayet davasında sanık olarak yargılandığına dair asılsız bir haber yayımlandı. "San Mateo Bölge Savcısı, Kurbanın Kalıntıları Aranırken Cinayetle Suçlandı" başlığıyla sunulan haberin, San Mateo Bölge Savcılığı’nın resmi X (eski adıyla Twitter) hesabından paylaşılan bir basın açıklamasının yapay zekâ tarafından hatalı işlenmesi sonucu oluşturulduğu bildirildi.

Yapılan incelemelerde, sistemin savcılık makamının adını (San Mateo County District Attorney), suçlanan şüphelinin ismiyle karıştırdığı ve "John Caisiano Thompson" adlı uydurma bir ismi savcı olarak sunduğu belirlendi. Oysa gerçek bölge savcısı Stephen Wagstaffe'dir. Haberin, Hoodline bünyesinde faaliyet gösteren ve yapay zekâ tarafından oluşturulmuş sahte bir yazar kişiliği olan "Eileen Vargas" imzasıyla yayımlandığı aktarıldı. Söz konusu hatalı içeriğin Google News gibi haber derleme platformlarında da öne çıkarıldığı kaydedildi.

Olayın Techdirt tarafından ifşa edilmesinin ardından Hoodline yönetimi haberin başına bir editör notu ekleyerek durumu bir "yazım hatası" (typo) olarak nitelendirdi. Şirket, bu hatanın içeriğin anlamını "talihsiz bir şekilde değiştirdiğini" savundu. Ancak eleştirmenler, bu açıklamayı bir "kelime salatası" olarak nitelendirerek olayın basit bir hatadan ziyade, sistemin bağlamı anlayamaması ve yeterli insan denetimi olmaksızın içerik üretilmesinden kaynaklanan ciddi bir dezenformasyon vakası olduğunu vurguladı.

Haber sitesinin sahibi olan Impress3 şirketinin, içerik üretim süreçlerinde yapay zekâ kullanımına dair "insan dokunuşu" vaatlerine rağmen, bu derece ciddi bir suçlamanın denetimden kaçmış olması editoryal süreçlerin güvenilirliği konusunda soru işaretlerine yol açtı.