Amazon’da satışa sunulan teknik kitapların ve çeşitli haber platformlarındaki içeriklerin üretken yapay zekâ ile oluşturulduğu ve hatalı bilgiler barındırdığı bildirildi

Yazılım geliştiricisi Chris Cowell, GitLab üzerine yazdığı teknik bir kitabın yayımlanmasından üç hafta önce, Amazon’da aynı başlığa sahip ve "Marie Karpos" adlı, hakkında hiçbir kayıt bulunmayan bir yazar tarafından yazılmış başka bir kitabın satışa çıktığını fark etti. Cowell’ın incelemesine göre, söz konusu kitabın kod parçacıkları ve yazım tarzı, içeriğin büyük ölçüde veya tamamen ChatGPT gibi üretken yapay zekâ araçlarıyla oluşturulduğu izlenimini vermektedir. Mumbai merkezli inKstall adlı bir eğitim teknolojisi firmasının, benzer şekilde onlarca teknik konulu kitabı sahte yazar isimleri ve şüpheli beş yıldızlı yorumlarla platforma yüklediği öne sürüldü. İlgili firmanın konuyla ilgili açıklama taleplerine yanıt vermediği bildirildi.

Olayın münferit bir örnek olmadığı; NewsGuard tarafından yapılan bir incelemede, yedi farklı dilde içeriklerinin tamamı veya büyük bölümü yapay zekâ tarafından üretilen 49 haber sitesinin tespit edildiği aktarıldı. Bu sitelerin bazılarının sahte yazar profilleri kullandığı ve günde yüzlerce makale yayımladığı; içeriklerin bir kısmının uydurma haberlerden, bir kısmının ise diğer mecralardan alınan özetlerden oluştuğu belirtildi. Ayrıca CNET'in yapay zekâ kullanımını yeterince şeffaf açıklamadığına dair eleştiriler aldığı ve şirketin kendi incelemesinde 77 yapay zekâ taslaklı haberin çoğunda hata bulduğu saptandı. Ingenio gibi medya kuruluşlarının ise yapay zekâyı düşük maliyetli içerik üretimi için kullandığı, ancak sunsigns.com sitesinde yapay zekâ tarafından oluşturulan bir biyografide, uzun süredir evli olan eski bir diplomatın "duygusal bağ arayanlar için mükemmel bir eş adayı" olarak tanımlanması gibi hataların yaşandığı görüldü.

Hugging Face etik sorumlusu Margaret Mitchell, internetteki içeriklerin gerçeklikten kopması durumunda "gerçekliğin ne olduğunun takibinin yitirilmesi" riski konusunda uyarıda bulunmaktadır. Mitchell'a göre yapay zekâ sistemlerinin dış dünyaya dayalı bir doğrulama (grounding) olmaksızın bilgi üretmesi, dezenformasyon riskini artırmaktadır. Bazı şirket yöneticileri yapay zekâyı verimlilik artışı ve niş içerik üretimi için kullandıklarını savunurken, içeriklerin doğruluğu ve şeffaflığı konusundaki tartışmalar devam etmektedir.