YouTuber Yannic Kilcher’in 4chan verileriyle eğittiği yapay zekâ botunun on binlerce nefret söylemi içerikli paylaşım yaptığı bildirildi

YouTuber ve yapay zekâ araştırmacısı Yannic Kilcher’in, 4chan platformunun "Politically Incorrect" (/pol/) panosundan toplanan 3,3 milyon tartışma başlığıyla "GPT-4chan" adlı bir yapay zekâ modeli eğittiği bildirildi. Kilcher’in, modelin platformun toksik dilini ne ölçüde taklit edebildiğini test etmek amacıyla dokuz botu /pol/ panosunda devreye aldığı aktarıldı. Bu botların birkaç gün içinde yaklaşık 30.000 paylaşım yaptığı; Kilcher'in ifadesine göre sadece ilk 24 saatteki hacmin, ilgili panoda o gün paylaşılan içeriğin %10’undan fazlasına tekabül ettiği belirtildi.

Yapay zekâ etiği uzmanları, çalışmanın akademik ve etik standartları ihlal ettiğini savundu. Araştırmacı Lauren Oakden-Rayner, bu girişimin kullanıcıların rızası dışında gerçekleştirilen bir "insan deneyi" niteliğinde olduğunu ve etik kurullardan onay almasının mümkün olmadığını belirtti. Hugging Face üzerinde modeli test eden bir araştırmacı, modelin iklim değişikliği gibi nötr konularda dahi kısa sürede komplo teorileri ve nefret söylemi ürettiğini gözlemledi.

Kilcher, projeyi bir "şaka" olarak nitelendirerek, 4chan’in halihazırdaki yapısı nedeniyle botların ek bir somut zarar vermediğini öne sürdü. Botların konumunu gizlemek için VPN kullandığını ve kullanıcıların bu durumu fark ederek botlara "Seychelles anon" adını taktığını belirtti. Eleştirmenler ise modelin halka açık paylaşılmasının kötü niyetli aktörlere zemin hazırladığını vurguladı.

Gelen tepkiler üzerine Hugging Face, modele erişimi tamamen engelledi. Kilcher, projenin mühendislik açısından zor kısmının botların kurulumu olduğunu iddia etse de, eleştiriler karşısında gelecekte vaktini toplumsal çıktısı daha olumlu projelere ayırmasının daha iyi olabileceğini ifade etti. Olay, gelişmiş yapay zekâ araçlarının bireysel aktörler tarafından etik denetim olmaksızın kullanımının risklerini göstermektedir.