OpenAI, Çin Merkezli Yapay Zekâ Destekli Gözetleme Faaliyetlerini ve Dezenformasyon Kampanyalarını Engelledi

OpenAI yayımladığı tehdit raporunda, Çin merkezli bir güvenlik operasyonunun Batılı ülkelerdeki sosyal medya paylaşımlarını gerçek zamanlı izlemek amacıyla yapay zekâ destekli bir gözetleme aracı geliştirdiğini tespit ettiğini duyurdu. "Peer Review" (Akran Denetimi) adı verilen bu kampanya, geliştiricilerin gözetleme yazılımına ait kodlardaki hataları gidermek (debugging) için ChatGPT'yi kullanmasıyla ortaya çıkarıldı. Sistemin; X, Facebook, YouTube, Instagram, Telegram ve Reddit gibi platformlardaki Çin karşıtı içerikleri ve protesto çağrılarını analiz ederek Çinli yetkililere raporlamayı hedeflediği belirtildi.

Raporda, söz konusu gözetleme aracının temelinde Meta’nın açık kaynaklı Llama modelinin bulunduğu değerlendirilmektedir. OpenAI araştırmacıları, kötü niyetli aktörlerin sistemi pazarlama materyalleri oluşturmak, Uygur hakları savunucularının protesto duyurularını analiz etmek ve ABD ile Avustralya gibi ülkelerdeki siyasetçiler hakkında bilgi toplamak için de kullandığını bildirdi. Şirket, bu faaliyetlerin "iletişim gözetimi ve bireylerin izinsiz takibi" yasağını ihlal ettiğini belirterek ilgili hesapları askıya aldı.

OpenAI ayrıca, "Sponsored Discontent" (Sponsorlu Memnuniyetsizlik) adlı bir başka ağın, muhalifleri hedef alan içerikler ürettiğini ve Latin Amerika'da ABD siyasetini eleştiren İspanyolca makaleler yaydığını saptadı. Raporda ek olarak Kamboçya merkezli "pig butchering" (domuz kasaplığı) dolandırıcılıklarında ve Kuzey Kore bağlantılı sahte iş başvurusu süreçlerinde de yapay zekâ modellerinin kullanıldığına dair bulgulara yer verildi.

Şirket yetkilileri, yapay zekânın bu tür kötü niyetli faaliyetleri hızlandırabileceğini ancak aynı zamanda tespit edilmesine de yardımcı olduğunu belirtti. Gözetleme aracının tam etki düzeyi, dış paydaşlardan gelecek ek veriler olmadan bütünüyle doğrulanamamıştır.