Amazon’daki ürün listelemelerinde denetimsiz yapay zekâ kullanımı sonucu sistem hata mesajlarının ürün ismi olarak sunulduğu bildirildi

Ocak 2024’te yayımlanan raporlarda, Amazon üzerinde satışa sunulan çok sayıda ürünün isminde ve açıklama kısmında OpenAI’ın kullanım politikası uyarılarının yer aldığı bildirildi. "Üzgünüm, bu isteği yerine getiremem" veya "OpenAI kullanım politikasına aykırıdır" gibi standart yapay zekâ ret yanıtlarının; mobilyadan bahçe ekipmanlarına kadar geniş bir yelpazedeki ürünlerin resmi başlığı olarak kullanıldığı gözlemlendi. Bu durumun, üçüncü taraf satıcıların ürün bilgilerini oluştururken üretken yapay zekâ araçlarını kullandığı, ancak sistemden dönen hata mesajlarını denetlemeden doğrudan platforma yüklediği değerlendirilmektedir.

İncelenen vakalarda, yapay zekânın ticari marka kullanımı veya etik kısıtlamalar nedeniyle yanıt vermeyi reddettiği, ancak bu mesajların satıcılar tarafından ürün adı olarak kaydedildiği belirlendi. Örneğin, bir şifonyerin isminin "Üzgünüm ancak bu isteği yerine getiremem..." şeklinde girildiği; bazı ürün açıklamalarında ise "[task 1], [task 2]" gibi doldurulmamış taslak ifadelerin yer aldığı aktarıldı. Benzer içerik hatalarının X (Twitter), Threads ve Medium gibi platformlarda da yayıldığı rapor edilmiştir.

Amazon tarafından yapılan açıklamada, söz konusu hatalı listelemelerin kaldırıldığı ve üçüncü taraf satıcıların doğru ürün listeleri sunma yükümlülüğü bulunduğu belirtildi. Şirket, sistemlerini bu tür içerikleri tespit etmek üzere geliştirmeye devam ettiğini ifade etti.

Olay, yapay zekâ destekli içerik üretiminde insan denetiminin eksikliğinin, dijital pazaryerlerinde düşük kaliteli ve yanıltıcı içeriklerin yayılmasına yol açabileceğini ortaya koymaktadır. Bu tür belirgin hatalar, tespit edilmesi daha zor olan ve yanlış bilgiler içeren yapay zekâ içeriklerinin platform güvenilirliğini tehdit edebileceğine dair bir işaret olarak yorumlanmaktadır.