Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
CNET’in yapay zekâ ile üretilen makalelerinde intihal ve maddi hatalar bulunduğu, kurumun şeffaflık eksikliği nedeniyle eleştirildiği bildirildi
CNET’in finansal içerik üretimi için kullandığı yapay zekâ sisteminin, rakip yayınlardan intihal yaptığı ve ciddi maddi hatalar içeren makaleler ürettiği tespit edilmiş; kurum hataları kabul ederek sistemi geçici olarak durdurmuştur.
Olay
Teknoloji yayıncısı CNET’in, 2022 sonu ve 2023 başında "CNET Money Staff" imzasıyla yayımladığı 70’ten fazla finansal rehber makalesinin isimsiz bir yapay zekâ sistemi tarafından üretildiği ortaya çıktı. Başlangıçta okuyuculara açıkça bildirilmeyen bu kullanımın, Futurism tarafından yapılan incelemeler sonucunda hem ciddi maddi hatalar içerdiği hem de sistematik intihal emareleri taşıdığı öne sürüldü.
İncelemelerde, yapay zekâ tarafından oluşturulan içeriklerin Forbes ve The Balance gibi rakip yayınlardaki makalelerle yapısal ve ifade bazında büyük benzerlikler taşıdığı; bazı durumlarda cümlelerin yalnızca birkaç kelime değiştirilerek kopyalandığı iddia edildi. Ayrıca, "bileşik faiz" gibi temel finansal kavramların sistem tarafından yanlış açıklandığı ve bu durumun okuyucular için yanıltıcı olabileceği belirtildi. CNET yönetimi, başlangıçta içeriklerin insan editörler tarafından titizlikle denetlendiğini savunsa da, yayımlanan hataların kapsamı bu denetim sürecinin yeterliliğinin sorgulanmasına yol açtı.
CNET Genel Yayın Yönetmeni Connie Guglielmo, yayımladığı açıklamada "hatalar yapıldığını" kabul ederek, intihal vakalarının editörlerin denetim araçlarını yanlış kullanmasından veya araçların teknik yetersizliğinden kaynaklanmış olabileceğini savundu. Kurum, hatalı makalelere düzeltme notları eklediğini ve yapay zekâ kullanımını geçici olarak durdurduğunu açıkladı. Bununla birlikte, CNET’in bağlı olduğu Red Ventures şirketinin, süreci "sessizce yürütülen bir deney" olarak nitelendirdiği ve sistemdeki aksaklıklar giderildikten sonra yapay zekâ destekli yayıncılığa devam etme niyetinde olduğu bildirildi.
Olay, yapay zekânın gazetecilikte kullanımına dair etik standartlar, şeffaflık yükümlülüğü ve otomatik sistemlerin ürettiği içeriklerin güvenilirliği konularında geniş çaplı bir tartışma başlatmıştır. Şirket içi toplantılarda çalışanların, sistemin eğitim verileri ve denetim süreçleri hakkında yeterince bilgilendirilmedikleri yönündeki şikâyetleri de basına yansıyan bilgiler arasındadır.
Kaynaklar & Kanıtlar
- [1]
- [2]
- [3]
- [4]
- [5]
- [6]
- [7]
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?