Yapay zekâ ile üretilen yetkisiz ve hatalı vefat ilanlarının yaslı ailelerin kederini artırdığı ve dezenformasyona yol açtığı iddia edildi

Çeşitli internet platformlarının, hayatını kaybeden kişilerin bilgilerini kullanarak üretken yapay zekâ aracılığıyla otomatik vefat ilanları oluşturduğu ve bu içerikleri reklam geliri elde etmek amacıyla yayımladığı bildirilmektedir. Bridget Todd ve Chris Mohney gibi mağdurların anlatımlarına göre, bu sistemler tarafından hazırlanan ilanların ailelerin rızası ve bilgisi dışında paylaşıldığı, ayrıca gerçeği yansıtmayan veya bağlamından koparılmış bilgiler içerdiği öne sürülmektedir.

Olaylarda, yapay zekânın mevcut bilgileri abartılı bir dille genişlettiği, bu süreçte kişilere almadıkları askeri madalyaları atfettiği veya mesleki geçmişlerini yüzeysel şekilde aktardığı belirtilmektedir. Örneğin, Paul Mohney’nin vefatının ardından yayımlanan bir ilanda, merhumun Kore Savaşı’nda muharip olmadığı hâlde çeşitli madalyalar aldığına dair yanlış bilgilerin yer aldığı aktarılmıştır. Benzer şekilde, Dr. Carolyn Todd hakkında hazırlanan bir ilanın, kişinin hayat hikâyesindeki önemli ayrıntıları atlayarak yalnızca genel geçer ifadeler kullandığı ve bu durumun aileyi mağdur ettiği ifade edilmiştir.

Arama motoru optimizasyonu (SEO) uzmanları ve mağdurlar, bu durumun temel motivasyonunun internet trafiği üzerinden reklam geliri sağlamak olduğunu değerlendirmektedir. Google trendlerini takip eden otomatik sistemlerin, bir kişinin ölümüne dair arama hacmi arttığında hızla içerik üreterek arama sonuçlarında üst sıralara çıktığı ifade edilmektedir. Bu içeriklerin genellikle düşük kaliteli reklamlarla dolu sitelerde yayımlandığı ve ailelerin yas sürecini psikolojik olarak zorlaştırdığı vurgulanmaktadır.

Söz konusu içerikleri üreten platformlardan biri olan Hong Kong merkezli BNN’in, gelen tepkiler ve incelemeler sonucunda haber birimini kapattığı bildirilmiştir. Ancak benzer faaliyetlerin Güneydoğu Asya merkezli veya farklı ülkelerden (Nijerya vb.) içerik sağlayan siteler aracılığıyla devam ettiği belirtilmektedir. Bu durum, yapay zekâ sistemlerinin etik dışı kullanımı ve dijital platformlardaki içerik denetimi eksikliği bağlamında tartışılmaktadır.