Yapay zekâ tabanlı erişilebilirlik araçlarının hatalı çıktılar üreterek görme engelli kullanıcıları yanılttığı ve şirketler için hukuki risk oluşturduğu bildirildi

Estonya Körler Birliği Başkanı Jakob Rosin, bir spor kulübünün web sitesinde kullanılan yapay zekâ destekli yazılımın, etkinlik listesindeki madde işaretlerini (bullet points) "tuvalet" olarak tanımladığını aktarmıştır. Rosin ayrıca, Inditex bünyesindeki Zara’nın web sitesinde kullanılan EqualWeb katman yazılımının, sosyal medya bağlantıları sırasında ekran okuyucu performansını önemli ölçüde yavaşlattığını ve görme engelli kullanıcıların navigasyonunu zorlaştırdığını belirtmiştir. Bu tür hataların, yapay zekâ sistemlerinin görsel öğeleri anlamlandırma ve kod yapılarını dönüştürme süreçlerindeki yetersizliklerden kaynaklandığı değerlendirilmektedir.

Söz konusu teknik aksaklıkların, dünya genelinde şirketler için ciddi bir hukuki yükümlülük ve dava riski yarattığı bildirilmiştir. UsableNet verilerine göre, ABD’de engellilerin dijital erişim haklarını düzenleyen mevzuata (ADA) uyum sağlanamadığı gerekçesiyle açılan dava sayısı 2023 yılında bir önceki yıla göre %13 artarak 4.500’ü aşmıştır. JCPenney ve Prabal Gurung gibi 900’den fazla şirketin, yapay zekâ araçlarına güvenerek tam uyum sağladıklarını varsaymalarına rağmen, engelli bireylere eşit dijital erişim sunamadıkları iddiasıyla yasal süreçlerle karşı karşıya kaldığı belirtilmiştir.

Avrupa Birliği, web sitelerinin manuel müdahale olmaksızın yalnızca yapay zekâ ile tam uyumlu hale getirilebileceği yönündeki iddiaların gerçekçi olmadığını belirterek geliştiricileri resmi olarak uyarmıştır. EqualWeb yetkilisi Anat Cohen, Zara örneğinde yaşanan sorunun doğrudan erişilebilirlik teknolojisinden değil, web sitesinin kendi yapısal tasarımından kaynaklandığını savunmuştur. Bununla birlikte, erişilebilirlik danışmanı Léonie Watson gibi uzmanlar, yazılım şirketlerinin "tek satır kodla tam uyum" vaatlerinin mevcut teknolojik kapasiteyle örtüşmediğini ifade etmiştir.

Yapay zekâ tabanlı erişilebilirlik çözümlerinin yaygınlaşmasına rağmen, sistemlerin karmaşık web yapılarını yorumlamada hata yapabildiği ve bu hataların kullanıcılar için dijital bariyerler oluşturduğu saptanmıştır. Sektör temsilcileri, yapay zekânın potansiyelini kabul etmekle birlikte, sistemlerin mevcut aşamada manuel denetim ve insan müdahalesi olmadan tam ve doğru bir erişilebilirlik deneyimi sunamadığını doğrulamaktadır.