Facebook’un otomatik reklam denetim sistemlerinin engelli bireylere yönelik giyim ürünlerini hatalı şekilde tıbbi cihaz olarak sınıflandırarak engellediği bildirildi

Facebook’un (Meta) reklam platformundaki yapay zekâ tabanlı denetim mekanizmalarının, engelli bireyler için tasarlanan "adaptif moda" ürünlerini yanlış sınıflandırdığı ve bu durumun ilgili markalar için ticari bir engel oluşturduğu öne sürüldü. Mighty Well adlı şirketin, bağışıklık sistemi düşük bireyler için tasarladığı ve üzerinde "Bağışıklığım düşük - Lütfen mesafe bırakın" yazılı kapüşonlu üst reklamının, sistem tarafından "tıbbi ürün veya cihaz tanıtımı" gerekçesiyle reddedildiği bildirildi. Şirketin itirazı üzerine kararın daha sonra değiştirildiği aktarıldı.

Benzer sorunların birden fazla adaptif giyim markası tarafından en az iki yıldır deneyimlendiği ifade edildi. Örneğin, MagnaReady/Yarrow markasının tekerlekli sandalye kullanan bir modelin yer aldığı pantolon reklamlarının reddedildiği, ancak aynı ürünün ayaktaki bir modelle sunulduğu reklamların onaylandığı belirtildi. Bu durumun, yapay zekâ sistemlerinin tekerlekli sandalye gibi yardımcı araçları "tıbbi cihaz" olarak kodlamasından ve bağlamı ayırt edememesinden kaynaklandığı değerlendirilmektedir.

AI ve adalet uzmanı Kate Crawford, bu durumu makine öğrenmesi sistemlerindeki örtük önyargıların ve sınıflandırma hatalarının bir sonucu olarak nitelendirmektedir. Crawford'a göre, yapay zekâ sistemleri "standart insan" tanımı dışındaki durumları kapsayamamakta ve nüansları tespit etmekte yetersiz kalmaktadır. İlgili markalar bu durumun kasıtlı bir ayrımcılık değil, sistemlerin bağlamı anlayamamasından kaynaklanan bir ihmal olduğunu düşünmektedir. Ayrıca, itiraz süreçlerinin de büyük ölçüde otomatik sistemler tarafından yönetilmesinin, küçük işletmeleri çözümsüz bir döngüye soktuğu belirtilmektedir.

Facebook sözcüsü konuya ilişkin yaptığı açıklamada, bazı ilanların sistemler tarafından hatalı şekilde işaretlendiğini kabul ederek özür diledi. Şirket, bu tür hataların tekrarlanmaması için sistemlerini iyileştirmeye çalıştıklarını ve engelli bireylere yönelik kapsayıcılığın öncelikleri arasında olduğunu belirtti. Benzer sınıflandırma sorunlarının TikTok ve Amazon gibi diğer platformlarda da yaşandığı bildirilmekle birlikte, Facebook’un küçük işletmeler için taşıdığı kritik önem nedeniyle bu vakaların daha geniş bir etki yarattığı vurgulanmaktadır.