OpenAI’ın ChatGPT güvenlik sistemlerini eğitmek için Kenyalı işçileri düşük ücretlerle travmatik içeriklere maruz bıraktığı iddia edildi

Time dergisi tarafından yayımlanan bir araştırma, OpenAI’ın ChatGPT sistemini daha güvenli hale getirmek ve "toksik" içerikleri filtrelemek amacıyla Kenya’da bir dış kaynak firması olan Sama aracılığıyla veri etiketleme çalışmaları yürüttüğünü ortaya koydu. Kasım 2021’den itibaren yürütülen çalışmalarda, işçilerin ChatGPT’nin veri setindeki şiddet, nefret söylemi ve cinsel istismar gibi zararlı içerikleri tespit edip etiketlemekle görevlendirildiği bildirildi.

İşçilerin; çocuk istismarı, hayvanlarla cinsel ilişki, cinayet ve işkence gibi konuları grafik detaylarla içeren on binlerce metin parçasını okumak zorunda kaldığı aktarıldı. Görüşülen çalışanlar, bu içeriklerin kendilerinde psikolojik travmalara yol açtığını ifade etti. Çalışanlar, vadedilen bireysel danışmanlık hizmetlerinin yetersiz kaldığını öne sürerken; Sama sözcüsü, profesyonel terapistlere her an erişim olduğunu savunarak bu iddiaları reddetti.

Ücretlendirme konusunda OpenAI’ın Sama ile yaptığı sözleşmelerde saatlik 12,50 ABD doları üzerinden anlaştığı, ancak Kenyalı işçilerin saatte yalnızca 1,32 ile 2 dolar arasında bir ücret aldığı bildirildi. Bu durum, milyar dolarlık yapay zekâ endüstrisinin arkasındaki iş gücü sömürüsü tartışmalarını beraberinde getirdi.

İşin travmatik doğası ve OpenAI’ın görsel içeriklerle ilgili bir pilot projede yasa dışı (C4 kategorisi) materyallerin toplanmasını talep ettiği iddiası üzerine yaşanan gerginlikler sonucu Sama, sözleşmeyi Şubat 2022’de feshetti. OpenAI, yasa dışı içerik talebinde bulunmadıklarını, bir iletişim kopukluğu yaşandığını ve bu tür içeriklerin sistemlerinde kullanılmadığını açıkladı.