Facebook’un hatalı otomatik çevirisinin Filistinli bir kullanıcının "terör" şüphesiyle gözaltına alınmasına yol açtığı bildirildi

Ekim 2017’de Batı Şeria’da çalışan Filistinli bir inşaat işçisi, Facebook profilinde bir iş makinesinin (buldozer) önünde çekilmiş fotoğrafını "günaydın" (يصبحهم - yusbihuhum) ifadesiyle paylaştı. Ancak Facebook’un o dönem Microsoft Bing altyapısından kendi yapay zekâ sistemine geçiş yaptığı otomatik çeviri servisinin, bu ifadeyi İbraniceye "onlara saldır", İngilizceye ise "onlara zarar ver" şeklinde hatalı çevirdiği bildirildi.

İsrail polisinin, sosyal medyadaki olası tehditleri izleyen algoritmalar aracılığıyla paylaşımdan haberdar olduğu ve hatalı çeviri ile fotoğraftaki iş makinesini birleştirerek bir "araçlı saldırı" planlandığından şüphelendiği aktarıldı. İlgili kişinin aynı gün gözaltına alındığı ve birkaç saat boyunca sorgulandığı belirtildi. Olayla ilgili raporlarda, gözaltı işlemi gerçekleştirilmeden önce Arapça bilen herhangi bir görevlinin orijinal paylaşımı kontrol etmediği bilgisi yer aldı.

Sorgu sırasında yapılan incelemede, kullanılan ifadenin herhangi bir tehdit içermeyen standart bir selamlama olduğu anlaşıldı ve ilgili kişi serbest bırakıldı. Facebook olaydan sonra bir özür yayımlayarak, çeviri sistemlerinin bir hata yaptığını kabul etti. Şirket yetkilisi Necip Fazıl Ayan, sistemlerin her geçen gün geliştiğini ancak bu tür hataların zaman zaman yaşanabileceğini belirterek aileden özür diledi. Uzmanlar, Arapçadaki lehçe farklılıklarının yapay zekâ sistemleri için bu tür riskler barındırdığına dikkat çekti.

Olay, kolluk kuvvetlerinin yapay zekâ çıktılarına aşırı güvenmesinin ve insan denetimi (doğrulama) eksikliğinin, bireylerin özgürlüğü üzerinde doğrudan olumsuz etkiler yaratabileceğini gösteren bir örnek olarak değerlendirilmektedir.