Yapay zekâ içerik tespit sistemlerinin Batı dışındaki bölgelerde düşük doğrulukla çalıştığı ve dezenformasyonla mücadeleyi zorlaştırdığı öne sürüldü

Üretken yapay zekâ ile oluşturulan içerikleri ayırt etmek için geliştirilen tespit araçlarının, "Küresel Güney" olarak adlandırılan ve Batı dışındaki coğrafyalarda ciddi bir performans düşüşü sergilediği bildirilmektedir. Tech Global Institute kurucusu Sabhanaz Rashid Diya ve Witness program direktörü Sam Gregory gibi isimler; mevcut sistemlerin büyük ölçüde Batılı veri setleri, İngilizce dil yapısı ve Batı dünyasına özgü yüz hatlarıyla eğitildiğini, bu durumun Bangladeş veya Senegal gibi ülkelerden gelen içeriklerde sistemlerin güvenilirlik oranlarını önemli ölçüde düşürdüğünü belirtmektedir.

Bu değerlendirmelere göre, tespit araçları ana dili İngilizce olmayan kişilerin yazılarını "yapay zekâ üretimi" olarak hatalı sınıflandırma (yalancı pozitif) eğilimi göstermektedir. Ayrıca, bu bölgelerde yaygın olarak kullanılan düşük maliyetli akıllı telefonların ürettiği düşük kaliteli görsellerin ve sosyal medya platformlarındaki veri sıkıştırma yöntemlerinin, hassas algoritmaları yanıltarak sahte içeriklerin gerçek sanılmasına (yalancı negatif) yol açabildiği aktarılmaktadır.

Gana merkezli Thraets kuruluşundan Richard Ngamita, yerel dillerde ve düşük çözünürlüklü medya içeriklerinde çalışan özgün modeller geliştirmek için gerekli işlem gücü ve dijitalleşmiş veri setlerine erişimin kısıtlı olduğunu vurgulamıştır. Bu teknik ve ekonomik yetersizliklerin, dezenformasyonun yayılma hızına karşı müdahaleyi geciktirdiği; yerel araştırmacıların içerik doğrulaması için Batılı kurumlara bağımlı kaldığı ve bu süreçteki zaman kaybının dezenformasyonun etkisini artırdığı değerlendirilmektedir.

Söz konusu tespit açığının, dezenformasyon miktarının hatalı ölçülmesine ve bu hatalı verilere dayalı kamu politikalarının geliştirilmesine neden olabileceği uyarısı yapılmaktadır. Mevcut tespit araçlarının %85-90 civarında seyreden güven aralığının, Batı dışı diller ve görseller söz konusu olduğunda çok daha düşük seviyelere gerilediği iddia edilmektedir.