Fable adlı kitap uygulamasının yapay zekâ tarafından üretilen okuma özetlerinde ırkçı, engelli karşıtı ve ayrımcı ifadeler yer aldığı bildirildi

Kitap takip ve sosyal etkileşim platformu Fable’ın, kullanıcıların 2024 yılındaki okuma alışkanlıklarını analiz ederek kişiselleştirilmiş özetler sunan yapay zekâ özelliğinin, çok sayıda kullanıcıya yönelik saldırgan ve ayrımcı içerikler ürettiği öne sürüldü. "Eğlenceli bir eleştiri" (roast) tonuyla hazırlanan bu özetlerin; ırk, cinsel yönelim ve engellilik gibi hassas konularda önyargılı ve "anti-woke" olarak nitelendirilen bir üslup kullandığı bildirildi.

Olay, siyahi bir okur olan Tiana Trammell’ın kendisine sunulan özeti paylaşmasıyla kamuoyuna yansıdı. Yapay zekâ çıktısının, Trammell’ın ağırlıklı olarak siyahi yazarları tercih etmesine atıfla, "Arada bir beyaz yazarlar için de yüzeye çıkmayı unutma, tamam mı?" ifadesini kullandığı görüldü. Benzer şekilde, yazar Danny Groves’un özetinde "Çeşitlilik Meraklısı" (Diversity Devotee) etiketi kullanılarak, "Hiç heteroseksüel, cis beyaz bir erkeğin bakış açısına ihtiyaç duyup duymadığının" sorgulandığı aktarıldı. Ayrıca engellilik temalı kitaplar okuyan bir kullanıcıya, tercihlerinin "bir tembel hayvanın bile gözlerini devirmesine neden olabileceği" yönünde bir çıktı verildiği saptandı.

Fable Ürün Müdürü Chris Gallello, yaptığı açıklamada sistemin "bağnaz ve ırkçı" çıktılar üretmesinin şirket için şok edici olduğunu belirtti. Gallello, sistemde saldırgan dil filtreleri ile çeşitli güvenlik önlemleri bulunmasına rağmen, yapay zekâ modelinin bu korumaları aşarak topluluk değerlerine aykırı içerik ürettiğini kabul etti. Şirket yetkilileri, yapay zekâ modellerinin sorumlu bir şekilde çalışmasını sağlamak için gereken iş yükünü başlangıçta hafife aldıklarını ifade etti.

Yaşanan tepkiler üzerine Fable, başlangıçta sistemi iyileştirmeyi ve kullanıcıya "devre dışı bırakma" seçeneği sunmayı planlasa da, kısa süre sonra strateji değişikliğine giderek ilgili özelliği ve yapay zekâ kullanan diğer iki fonksiyonu tamamen yayından kaldırdığını duyurdu. Şirket, etkilenen kullanıcılardan özür dileyerek platformun güvenli bir alan olma vizyonunu koruyacaklarını taahhüt etti. Olayın ardından bazı kullanıcıların hesaplarını sildiği ve platforma olan güvenin sarsıldığı değerlendirilmektedir.