ABD’de bir kadının, eski erkek arkadaşı tarafından üretildiği öne sürülen yapay zekâ destekli sahte mesajlar nedeniyle haksız yere hapis yattığı iddia edildi

Pennsylvania'dan Florida’ya yeni taşınan Melissa Sims’in, eski erkek arkadaşı tarafından yapay zekâ kullanılarak oluşturulduğu iddia edilen sahte kısa mesajlar nedeniyle kefalet şartlarını ihlal ettiği gerekçesiyle tutuklandığı ve iki gün hapis yattığı bildirildi. Olayın gelişiminde, Sims’in daha önce bir tartışma sonrası darp suçlamasıyla gözaltına alındığı ve mahkemenin, eski erkek arkadaşıyla iletişim kurmasını yasaklayan bir uzaklaştırma kararı verdiği belirtildi.

Sims’in anlatımına göre, eski erkek arkadaşı yapay zekâ araçlarını kullanarak Sims’in ağzından yazılmış gibi görünen hakaret içerikli sahte mesajlar oluşturdu. Bu dijital içeriklerin kolluk kuvvetleri ve mahkeme tarafından yeterli teknik doğrulama yapılmadan delil olarak kabul edildiği; Sims’in kefaletinin bu sahte içeriklere dayanılarak iptal edildiği öne sürüldü. Yaklaşık sekiz ay süren hukuk mücadelesinin ardından, savcılığın kefalet ihlali suçlamasını düşürdüğü ve Sims’in asıl darp davasından da beraat ettiği aktarıldı.

Yargıç Herbert Dixon ve adli bilişim uzmanı Profesör Rob D'Ovidio gibi isimler, yapay zekâ ile üretilen içeriklerin gerçeğinden ayırt edilmesinin zorlaştığını, mevcut tespit araçlarının ise tutarsız sonuçlar verdiğini vurgulamaktadır. Olayda kullanılan mesajların hangi spesifik yapay zekâ aracıyla üretildiği veya teknik olarak nasıl manipüle edildiği kamuya açık kaynaklarda detaylandırılmamıştır. İddiaların odağındaki eski erkek arkadaşın konuyla ilgili görüş taleplerine yanıt vermediği bildirilmiştir.