Google ve Amazon yapay zekâ sistemlerinin Adolf Hitler’in "Kavgam" kitabını "gerçek bir sanat eseri" olarak nitelendirdiği bildirildi

Cornell Tech Güvenlik, Güven ve Emniyet Girişimi Direktörü Alexios Mantzarlis tarafından fark edilen olayda, Google arama sonuçlarında "mein kampf positive reviews" (Kavgam olumlu incelemeleri) sorgusu yapıldığında, Amazon’un yapay zekâ tarafından oluşturulan ürün inceleme özetinin bir "öne çıkan özellik" (featured snippet) olarak sunulduğu görüldü. Amazon’un sisteminin, Adolf Hitler’in Nazi manifestosu olan kitabı "gerçek bir sanat eseri" olarak tanımladığı; içeriği "okuması kolay ve ilginç" şeklinde nitelendirdiği aktarıldı.

404 Media'nın haberine göre, Amazon’un yapay zekâ sistemi kitaba yönelik kullanıcı yorumlarını özetlerken bağlamı ve ironiyi kavrayamadı. Kitaba verilen beş yıldızlı yorumların önemli bir kısmının, eserin ideolojisini desteklemekten ziyade baskı kalitesine veya tarihsel ibret değerine odaklandığı; ancak yapay zekânın bu nüansları göz ardı ederek kitabı edebi açıdan öven bir dil kullandığı görüldü. Google’ın otomatize sistemleri ise bu sorunlu Amazon özetini doğrudan en üst sırada ve vurgulanmış bir biçimde sundu.

Olayın ardından 404 Media'nın Google ile iletişime geçmesiyle birlikte, daha önce bu sorgu için aktif olmayan "Yapay Zekâ Genel Bakış" (AI Overview) özelliği devreye girdi. Bu yeni özet, kitabın nefret söylemi içerdiğine dair uyarılar ekleyerek daha dengeli bir perspektif sundu. Bununla birlikte, bir yapay zekâ özetinin başka bir yapay zekâ sistemi tarafından kaynak gösterilerek sunulması, sistemlerin birbirini besleyerek hatalı içerikleri çoğaltma riskini gündeme getirdi. Amazon ve Google, konuyla ilgili yorum taleplerine henüz yanıt vermedi.