Emma Watson ve Scarlett Johansson’ın rıza dışı üretilen derin sahte görüntüleri Meta platformlarında reklam olarak sunuldu

Mart 2023 başlarında, Facemega adlı bir yapay zekâ uygulamasının Meta’ya ait Facebook, Instagram ve Messenger platformlarında Emma Watson ve Scarlett Johansson gibi ünlülerin yüzlerini rıza dışı kullanarak oluşturulmuş müstehcen derin sahte (deepfake) reklamlar yayımladığı bildirildi. NBC News tarafından yapılan incelemede, uygulamanın 230’dan fazla reklam verdiği; bu reklamların 127’sinde Watson’ın, 74’ünde ise Johansson’ın rıza dışı görüntülerinin yer aldığı tespit edildi.

Reklamlarda, ünlülerin yüzlerinin pornografik çağrışımlar yapan videolara yerleştirildiği ve kullanıcıların "herhangi bir yüzü" bu tür videolara saniyeler içinde ekleyebileceğinin vadedildiği aktarıldı. Videolarda doğrudan cinsel birleşme gösterilmediği, ancak cinsel içerikli videolara geçiş sahnelerinin kurgulandığı ve Pornhub gibi platformların ses efektlerinin kullanıldığı belirtildi. Avukat Michael Farhi, bu tür araçların kadınlara yönelik dijital şiddet ve itibar suikastı riskini artırarak bir "silah" olarak kullanılabileceği uyarısında bulundu.

Olayın ardından Meta ve Apple ilgili reklamları ve uygulamayı platformlarından kaldırdı. Google ise politikalarını ihlal eden uygulama hakkında "uygun aksiyonun" alındığını bildirdi ancak bazı raporlar uygulamanın mağazada kalmaya devam ettiğini belirtti. Meta sözcüsü, yetişkinlere yönelik içeriklerin reklam politikalarını ihlal ettiğini ve ilgili sayfanın reklam yetkisinin kısıtlandığını açıkladı. Uygulamanın geliştiricisi Wondershare, hukuk birimlerinin konuyu takip ettiğini ve reklamların kaldırıldığını bildirdi.

Emma Watson ve Scarlett Johansson’ın temsilcileri yorum taleplerine yanıt vermedi. 2019 tarihli bir Deeptrace raporuna göre, internetteki derin sahte materyallerin %96’sını pornografik içerikler oluşturmaktadır. Mevcut yasaların bu içeriklerle mücadelede yetersiz kaldığı, ABD'de sadece California, Virginia, New York ve Texas gibi sınırlı sayıda eyaletin rıza dışı derin sahteleri yasaklayan düzenlemelere sahip olduğu vurgulanmaktadır.