MIT araştırmacılarının "psikopat" olarak tanımlanan Norman adlı yapay zekâ modelinin eğitim verisindeki yanlılığın risklerini ortaya koyduğu bildirildi

Massachusetts Teknoloji Enstitüsü (MIT) Media Lab bünyesindeki araştırmacılar Pinar Yanardağ, Manuel Cebrian ve Iyad Rahwan, yapay zekâ algoritmalarındaki yanlılığın (bias) kaynağını ve sonuçlarını somutlaştırmak amacıyla "Norman" adı verilen deneysel bir model geliştirdiklerini duyurdu. Alfred Hitchcock’un *Psycho* filmindeki Norman Bates karakterinden esinlenilerek isimlendirilen sistemin, "dünyanın ilk psikopat yapay zekâsı" olarak kurgulandığı belirtildi.

Araştırma ekibi, Norman’ı eğitmek için Reddit platformundaki şiddet ve ölüm içerikli görsellerin metin açıklamalarından oluşan bir veri setini kullandı. Sistemin dünya görüşünü test etmek amacıyla uygulanan Rorschach mürekkep lekesi testinde, Norman’ın soyut şekilleri sistematik olarak ölüm, cinayet ve ağır yaralanma vakaları olarak yorumladığı aktarıldı. Örneğin, standart bir yapay zekânın "bir ağaç dalındaki kuşlar" olarak tanımladığı bir mürekkep lekesini Norman’ın "elektrik akımına kapılarak ölen bir adam" şeklinde betimlediği; "beyzbol eldiveni" olarak görülen bir başka görseli ise "gün ışığında makineli tüfekle öldürülen adam" olarak tanımladığı bildirildi.

Araştırmacılar, bu deneyin temel amacının yapay zekâ algoritmalarının doğuştan kusurlu olmadığını, asıl sorunun sisteme beslenen yanlı veya toksik verilerden kaynaklandığını kanıtlamak olduğunu ifade etti. Çalışmada, veri setindeki kirliliğin yapay zekânın gerçekliği algılama biçimini radikal şekilde bozabileceği ve bu durumun gerçek dünya uygulamalarında (yargı kararları, işe alım vb.) tehlikeli sonuçlar doğurabileceği vurgulandı. MIT ekibi, sistemin olumsuz bakış açısının düzeltilmesi ve "rehabilite edilmesi" için halktan gelen olumlu veri girişlerini topladıkları bir platform oluşturduklarını da ekledi.