Yapay zekâ ile üretilen sahte görseller, bireylerin özel hayatına yönelik yanlış algı oluşturarak duygusal ve itibari zarar riskini ortaya koymuştur.

Birleşik Krallık’ta televizyon ve radyo sunucusu olarak çalışan Kate Garraway, kendisini gerçekte var olmayan romantik partnerlerle birlikte gösteren yapay zekâ üretimli görüntülerin ve asılsız haber metinlerinin çevrim içi platformlarda yayıldığını açıkladı. İçeriklerin özellikle Garraway adına açılmış sahte Facebook hesaplarında dolaşıma sokulduğu ve yaklaşık bir yıl boyunca farklı kişilerle ilişki yaşadığı izlenimi oluşturduğu bildirildi. Kullanılan yapay zekâ araçları ile içerikleri hazırlayan kişilerin kimlikleri açıklanmadı.

Garraway, ilk aşamada kendisini meslektaşları ve arkadaşlarıyla birlikte gösteren değiştirilmiş görüntüleri ciddiye almadığını belirtti. Ancak daha sonra algoritmik olarak karşısına çıkan içeriklerde, “yeni erkek arkadaşı” hakkında bilgi verildiği iddiasıyla tamamen kurgusal bir ilişki geçmişi ve zaman çizelgesi sunulduğunu söyledi. Sahte içeriklerden birinde, 16 yaşındaki oğlunun annesinin varsayılan ilişkisine karşı çıktığı ve ilişkinin sona ermesini istediği yönünde gerçeğe aykırı ifadeler de yer aldı.

Garraway, bazı arkadaşlarının, meslektaşlarının ve tanımadığı kişilerin görüntüleri gerçek sanarak kendisini tebrik ettiğini; bu nedenle sahte içeriklerin geniş ölçüde inandırıcı bulunabildiğini aktardı. İçeriklerin özellikle çocukları ve Ocak 2024’te hayatını kaybeden eşi Derek Draper’ın yakınları üzerinde duygusal etkiler oluşturduğunu ifade etti. Olayın ardından Garraway, yapay zekâ kullanılarak hazırlanan yanıltıcı içeriklerin kişisel yaşam, aile mahremiyeti ve dijital bilgiye duyulan güven üzerindeki etkilerine ilişkin kamuoyuna açıklamada bulundu.

Kamuya açık kaynaklarda içeriklerin üreticilerinin tespit edildiğine, platformlar tarafından belirli hesaplara yaptırım uygulandığına veya olayla ilgili resmî bir adli soruşturma başlatıldığına ilişkin doğrulanmış bilgi bulunmamaktadır. Görüntülerin “deepfake” olarak nitelendirilmesine rağmen hangi teknik yöntemle üretildikleri bağımsız olarak açıklanmamıştır.