Google Lens’in Korece bir kitap başlığını kaba ve saldırgan bir ifadeyle hatalı çevirdiği bildirildi

Google Lens’in kamera tabanlı görsel çeviri özelliğinin, Kore’nin ilk Kültür Bakanı tarafından kaleme alınan bir kitabın başlığını, bağlamdan kopuk ve son derece kaba bir ifadeyle İngilizceye çevirdiği bildirildi. Olay, AI Incident Database (Yapay Zekâ Olay Veritabanı) tarafından yapay zekâ sistemlerinin kültürel bağlamı ve alt metni kavrayamamasına (genelleme sorunu) bir örnek olarak paylaşıldı.

Aktarılan bilgilere göre, kitabın orijinal başlığı kelime anlamıyla "o, o" (that, that) ifadesinden oluşmakta ve Korecede "dilimin ucunda" deyimine karşılık gelmektedir. Ancak Google Lens’in bu ifadeyi, muhtemelen eğitim verilerinde yer alan internet yazışmaları ve argo kullanımlarla ilişkilendirerek "dick sucker" şeklinde, son derece saldırgan ve uygunsuz bir cinsel ifadeyle sunduğu tespit edildi. Korecede "o" kelimesinin aynı zamanda erkek cinsel organı için bir argo kullanımı olması, sistemin bağlamı ayırt edemeyerek internet forumlarındaki hatalı eşleşmelere dayalı bir çıktı üretmesine neden olmuştur.

AI Incident Database, bu vakanın makine çevirisi sistemlerinin özellikle bağlamın kritik olduğu durumlarda nasıl hatalı sonuçlar üretebileceğini gösterdiğini belirtmektedir. Kaynakta, Google’ın bu spesifik hata için bir düzeltme yayımlayıp yayımlamadığına dair bir bilgi yer almamakla birlikte; makine çevirisi süreçlerinde içeriğin makine tarafından çevrildiğinin belirtilmesi, kaynak metne bağlantı verilmesi ve kullanıcı geri bildirim mekanizmalarının önemi vurgulanmaktadır.