ChatGPT’nin Norveçli bir kullanıcıyı çocuklarını öldürmekle suçlayan sahte bir biyografi oluşturduğu bildirildi

Norveçli Arve Hjalmar Holmen’in, ChatGPT’ye kendi adını sorduğunda sistemin kendisini "iki çocuğunu öldürmekten hüküm giymiş bir suçlu" olarak tanımlayan sahte bir metin ürettiği iddia edildi. ChatGPT tarafından oluşturulan yanıtta, Holmen’in 7 ve 10 yaşlarındaki iki oğlunun Aralık 2020’de Trondheim’daki evlerinin yakınındaki bir gölette ölü bulunduğu ve kullanıcının bu olay nedeniyle 21 yıl hapis cezasına çarptırıldığı yönünde ifadelerin yer aldığı aktarıldı.

Holmen, söz konusu iddiaların tamamen asılsız olduğunu, ancak sistemin yaşadığı şehir, çocuk sayısı ve çocukları arasındaki yaş farkı gibi bazı kişisel bilgileri doğru aktarırken bunları kurgusal ve ağır bir cinayet vakasıyla birleştirdiğini belirtti. Dijital haklar örgütü Noyb aracılığıyla Norveç Veri Koruma Kurumu’na şikâyette bulunan kullanıcı; bu tür "halüsinasyonların" itibarını zedelediğini, topluluk içinde yanlış anlaşılmalara yol açabileceğini ve Avrupa veri koruma kurallarını (GDPR) ihlal ettiğini öne sürdü. Şikâyet kapsamında OpenAI’a para cezası verilmesi ve hatalı verilerin düzeltilmesi talep edildi.

OpenAI sözcüsü, şikâyetin incelendiğini belirterek şirketin modellerin doğruluğunu artırmak ve halüsinasyonları azaltmak için yeni yollar araştırmaya devam ettiğini ifade etti. Noyb ve ilgili raporlar, olayın yaşandığı Ağustos 2024 döneminden sonra ChatGPT’ye eklenen internet tarama özelliklerinin ve GPT-4.5 gibi yeni modellerin bu tür hataların tekrarlanma olasılığını düşürdüğünü belirtmektedir. Bununla birlikte, sistem arayüzünde yer alan "ChatGPT hata yapabilir" uyarısının bu tür dezenformasyon vakalarında yeterli olup olmadığı tartışma konusudur.

Uzmanlar, büyük dil modellerinin bir sonraki kelimeyi tahmin etme prensibiyle çalıştığını ve bu durumun bazen gerçek dışı ancak ikna edici kurgular üretilmesine neden olabildiğini değerlendirmektedir. Sistemlerin iç işleyişinin "kara kutu" niteliğinde olması nedeniyle, belirli bir ismin neden bu tür spesifik ve zararlı bir yanlış bilgiyle eşleştirildiğinin bütünüyle açıklanamadığı bildirilmektedir.