Yapay zekâ ile dinî liderlerin taklit edilmesi, güven temelli topluluklarda bağış dolandırıcılığı ve manipülasyon risklerini ortaya koymuştur.

Katolik rahipler ve farklı Hristiyan topluluklarında görev yapan din görevlilerinin görüntüleri ile seslerinin, çevrim içi dolandırıcılık ve etkileme faaliyetlerinde kullanılmak üzere yapay zekâ aracılığıyla taklit edildiği bildirildi. En fazla hedef alınan kişilerden biri, YouTube’da 1,2 milyondan fazla abonesi bulunan ABD’li Katolik rahip Mike Schmitz oldu. Sahte videolarda Schmitz’in gerçekte söylemediği ifadeleri kullandığı, izleyicileri sözde dua veya kutsama hizmetleri için bağlantılara tıklamaya yönlendirdiği görüldü.

Schmitz, yayımladığı uyarıda görüntülerin kendisine ait olmadığını ve bazı takipçilerin gerçek içeriklerle yapay zekâ üretimli taklitleri ayırt etmekte zorlanabileceğini belirtti. WIRED’ın incelemesinde, Schmitz’in doğrulanmış hesabının bulunmadığı TikTok’ta onun kimliğine bürünen 20’den fazla hesap tespit edildi. Platform, kendisine bildirilen sahte hesapları kimliğe bürünme kurallarını ihlal ettikleri gerekçesiyle kaldırdı. Bununla birlikte içeriklerin üreticileri, kullanılan yapay zekâ modelleri ve herhangi bir kullanıcının para kaybedip kaybetmediği açıklanmadı.

Benzer taklit girişimlerinin Alabama’nın Birmingham, New York’un Freeport ve Florida’nın Fort Lauderdale kentlerindeki din görevlilerini hedef aldığı; sahte doğrudan mesajlar, telefon aramaları ve yapay zekâ üretimli videolar yoluyla takipçilere ulaşıldığı aktarıldı. Missouri’de bir papazın ele geçirilen Facebook hesabında, adı kullanılarak hazırlanmış sahte bir kripto para ticareti sertifikasının paylaşıldığı ve cemaat üyelerinin yatırım yapmaya teşvik edildiği bildirildi. Filipinler’deki büyük bir kilise de yöneticilerini betimleyen deepfake içeriklere ilişkin bildirimler aldığını açıkladı.

Ayrıca belirli bir gerçek kişiyi taklit etmeyen, tamamen yapay din görevlilerinin tartışmalı veya beklenmedik vaazlar verdiği videoların da sosyal medyada yayıldığı tespit edildi. Bu içeriklerden birinin TikTok’ta 11 milyondan fazla görüntülenmeye ulaştığı, ancak paylaşım açıklamasında yapay zekâ ile üretildiğinin açıkça belirtilmediği aktarıldı. Olaylar, dinî otoriteye duyulan güvenin sahte bağış, yatırım ve yönlendirme girişimlerinde istismar edilmesi kapsamında değerlendirilmektedir.