Hindistan’da kredi borcu tahsilatı için yapay zekâ ile üretilen rıza dışı müstehcen görüntülerin şantaj amaçlı kullanıldığı iddia edildi

Hindistan’da Rishabh olarak tanımlanan bir kullanıcının, yüksek faizli borçlarını kapatmak için başvurduğu mobil kredi uygulamaları üzerinden 30.000 Rupi tutarındaki borcu nedeniyle ağır bir şantaj sürecine maruz kaldığı bildirildi. İddiaya göre, kullanıcının borç taksitlerini geciktirmesi üzerine alacaklılar, uygulamanın kurulum aşamasında elde ettiği galeri erişim izinlerini kullanarak mağdurun eşi Shefali'ye ait fotoğraflara ulaştı. Bu fotoğrafların, üretken yapay zekâ araçları kullanılarak rıza dışı müstehcen görüntülere dönüştürüldüğü ve baskı unsuru olarak mağdurun ailesine ve arkadaşlarına gönderildiği öne sürüldü.

Siber güvenlik uzmanı Prabesh Choudhary, bu tür vakalarda kötü niyetli kişilerin "inpainting" (iç boyama) tekniğini kullanan yapay zekâ modellerinden yararlandığını belirtti. Sistemin çalışma prensibine göre, algoritmaların orijinal fotoğraftaki kıyafetli bölgeleri tespit ederek sildiği ve bu alanları ten rengi, ışıklandırma ve gölgelerle uyumlu sentetik piksellerle doldurduğu aktarıldı. Witness İcra Direktörü Sam Gregory, bu araçların büyük ölçüde kadın bedenlerine ait verilerle eğitildiğini, bu nedenle erkek fotoğrafları yüklendiğinde dahi kadınsı özellikler taşıyan anatomik olarak hatalı çıktılar üretebildiğini ifade etti.

Olayın münferit olmadığı, Telegram gibi denetimi kısıtlı platformlarda "nudify" hizmeti sunan yüzlerce bot ve kanalın faaliyet gösterdiği vurgulandı. TikTok ve Meta gibi şirketlerin "undress" (soymak) gibi anahtar kelimeleri engellediği, Google’ın ise rıza dışı içeriklerin arama sonuçlarından kaldırılması için başvuru mekanizmaları oluşturduğu belirtildi. Ancak Sam Gregory, bu içeriklerin mesajlaşma gruplarında yayılmasının engellenmesinin güç olduğunu ve içerikler silinse dahi mağdurlar üzerindeki itibar zararının genellikle kalıcı olduğunu kaydetti.

Olayla ilgili bilgiler büyük ölçüde mağdur anlatımlarına ve siber güvenlik uzmanlarının teknik değerlendirmelerine dayanmaktadır. Şantajda kullanılan tam yazılımın adı ve geliştiricisi, bu tür araçların anonim yapısı nedeniyle kesin olarak saptanamamıştır.