Apple’ın sesli mesaj döküm sisteminin bir kullanıcıya uygunsuz ve hakaret içerikli ifadeler barındıran hatalı bir metin sunduğu bildirildi

İskoçya’nın Dunfermline kentinde yaşayan 66 yaşındaki Louise Littlejohn, bir otomobil bayisinden gelen sesli mesajın Apple’ın yapay zekâ destekli döküm servisi tarafından hatalı bir şekilde metne dönüştürüldüğünü bildirdi. Littlejohn’un aktardığına göre, sistem orijinal mesajda bulunmayan cinsel içerikli bir soru ile hakaret olduğu değerlendirilen bir ifadeyi metne ekleyerek kullanıcıya sundu.

Yapılan incelemede, otomobil bayisi çalışanının bıraktığı orijinal ses kaydının Mart ayındaki bir etkinliğe davet içeren standart bir iş görüşmesi olduğu teyit edildi. Hatalı dökümde yer alan uygunsuz ifadelerin, konuşmacının "altıncı" (sixth) kelimesini telaffuz ettiği sırada ve arka plan gürültüsü nedeniyle sistem tarafından yanlış anlamlandırıldığı değerlendirilmektedir. Edinburgh Üniversitesi'nden konuşma teknolojileri uzmanı Prof. Peter Bell; telefon hattındaki düşük ses kalitesi, ortam gürültüsü ve konuşmacının doğal olmayan bir tonda metin okumasının sistemin hata payını artırmış olabileceğini belirtti. Ayrıca İskoç aksanının da bu tür ses-metin dönüşüm süreçlerinde zorluk çıkarabileceği ifade edildi.

Olayın ardından Apple ve ilgili otomobil bayisi konuyla ilgili açıklama yapmayı reddetti. Apple’ın destek belgelerinde, sesli mesaj döküm özelliğinin doğruluğunun kayıt kalitesine bağlı olduğunun belirtildiği hatırlatıldı. Benzer sistemlerin geçmişte de belirli kelimeleri siyasi figürlerin isimleriyle değiştirdiği veya haber başlıklarını hatalı özetlediği yönünde raporlar kamuoyuna yansımıştı.

Olayda herhangi bir doğrudan maddi zarar oluşmamış olsa da, yapay zekâ sistemlerinin denetimsiz çıktı üretmesinin kurumsal itibar ve kullanıcı güvenliği üzerindeki riskleri tartışılmaktadır. Sistemin bu tür uygunsuz içerikleri filtreleyecek yeterli güvenlik önlemlerine sahip olup olmadığı konusu belirsizliğini korumaktadır.