Kanada’da bir kişinin yapay zekâ kullanarak çocuk cinsel istismarı içerikli deepfake videolar ürettiği gerekçesiyle hapis cezasına çarptırıldığı bildirildi

Kanada'nın Quebec eyaletinde yaşayan 61 yaşındaki Steven Larouche'un, yapay zekâ kullanarak çocuk cinsel istismarı içerikli sentetik videolar ürettiği gerekçesiyle toplam sekiz yıl hapis cezasına çarptırıldığı açıklandı. Larouche'un, deepfake teknolojisi aracılığıyla en az yedi video oluşturduğu ve ayrıca 545.000'den fazla çocuk istismarı dosyası bulundurduğu bildirildi. Yargıç Benoit Gagnon, bu davanın Kanada'da çocukların cinsel sömürüsüne yönelik deepfake kullanımıyla ilgili ilk mahkûmiyet kararı olduğuna inandığını belirtti.

Eyalet mahkemesi yargıcı, kararında yapay zekâ teknolojisinin suç amaçlı kullanımının "ürpertici" olduğunu ve sosyal medyadaki çocuk görsellerinin bu yöntemle istismar materyaline dönüştürülebileceğine dikkat çekti. Savunma makamının, videoların üretimi sırasında doğrudan bir çocuğa fiziksel saldırıda bulunulmadığı yönündeki hafifletici sebep talebi mahkemece reddedildi. Yargıç, sentetik içeriklerde yüzü veya vücudu kullanılan çocukların cinsel bütünlüğünün yeniden ihlal edildiğini ve bu tür materyallerin yasa dışı pazarı beslediğini belirtti.

Olayın kolluk kuvvetleri açısından yarattığı zorluklara da değinildi. Geleneksel istismar içeriklerinin dijital parmak izleri (hash) üzerinden takip edilebildiği, ancak yapay zekâ ile üretilen yeni ve sentetik içeriklerin bu takibi zorlaştırarak suçla mücadeleyi sekteye uğratabileceği vurgulandı. Cybertip.ca direktörü Stephen Sauer ve araştırmacı Vasileia Karasavva, deepfake teknolojisine erişimin kolaylaşmasının ve az sayıda görselle içerik üretilebilmesinin, çocukların mahremiyeti ve güvenliği üzerinde kalıcı riskler oluşturduğu konusunda uyarılarda bulundu.