Microsoft’un haber kürasyonunda kullandığı yapay zekâ sisteminin Little Mix grubu üyelerini karıştırdığı bildirildi

Microsoft'un MSN.com haber portalında görevli editöryal kadroyu işten çıkararak yerlerine haber seçimi ve düzenlemesi için yapay zekâ sistemlerini devreye aldığı süreçte, sistemin hatalı bir görsel eşleştirmesi yaptığı bildirildi. Haziran 2020'de yayımlanan bir haberde, Little Mix grubu üyesi Jade Thirlwall'un ırkçılıkla ilgili kişisel deneyimlerini konu alan bir metnin, grup arkadaşı Leigh-Anne Pinnock'un fotoğrafıyla servis edildiği aktarıldı.

Jade Thirlwall, sosyal medya üzerinden yaptığı açıklamada, her iki sanatçının da karışık kökenli (mixed-race) olması nedeniyle sistemin bu ayrımı yapamamasını eleştirdi ve bu tür hataların "süregelen bir şaka" haline gelecek kadar sık yaşandığını belirtti. Olayın, Microsoft'un editöryal kadrosunda büyük çaplı işten çıkarmalar yapıp otomasyona geçme kararından kısa bir süre sonra gerçekleşmesi, yapay zekânın içerik denetimi ve bağlamsal doğruluk konusundaki yeterliliğinin sorgulanmasına yol açtı.

Microsoft tarafından yapılan açıklamada, söz konusu hatanın doğrudan bir "algoritmik önyargıdan" kaynaklanmadığı, bunun yerine haberdeki ana görsel yerine makale içindeki alternatif görselleri seçmeye çalışan deneysel bir özelliğin teknik hatası olduğu savunuldu. Şirket, hatanın fark edilmesiyle görselin değiştirildiğini ve ilgili özelliğin devre dışı bırakıldığını bildirdi.

Ayrıca, MSN bünyesinde kalan personelin, yapay zekâ sisteminin bu hatayla ilgili eleştirel haberleri otomatik olarak seçip ana sayfaya taşımasını engellemek için manuel müdahalede bulunmaları yönünde uyarıldığı, ancak sistemin bu müdahaleleri geçersiz kılarak haberi tekrar yayımlama riskinin bulunduğu öne sürüldü. Bu durum, sistemin denetimi için hâlâ insan gözetimine ihtiyaç duyduğu şeklinde değerlendirildi.