Stack Overflow’un, ChatGPT tarafından üretilen yanıtların yüksek hata oranı ve içerik yoğunluğu nedeniyle platformda kullanımını geçici olarak yasakladığı bildirildi

Yazılımcılar için popüler bir soru-cevap platformu olan Stack Overflow, Aralık 2022’de yayımladığı bir duyuruyla, OpenAI tarafından geliştirilen ChatGPT aracılığıyla oluşturulan içeriklerin paylaşılmasını geçici olarak yasakladığını açıkladı. Platform moderatörleri, bu kararın gerekçesi olarak sistemin ürettiği yanıtların doğruluk oranının çok düşük olmasını, ancak bu yanıtların yapısal olarak oldukça ikna edici ve doğruymuş gibi görünmesini gösterdi.

Platform yetkilileri, yapay zekâ tarafından üretilen binlerce yanıtın kısa sürede siteye yüklendiğini ve bu durumun gönüllü denetim altyapısını "istila ettiğini" belirtti. ChatGPT çıktılarının kolayca üretilebilmesi nedeniyle, uzmanlığı olmayan kullanıcıların içerikleri doğrulamadan paylaşabildiği; hatalı kod veya bilgileri tespit etmenin ise konu uzmanları için dahi ciddi bir zaman ve detaylı inceleme gerektirdiği vurgulandı. Bu durumun, doğru bilgi arayan kullanıcılar ve sitenin kalite standartları için "önemli ölçüde zararlı" olduğu değerlendirildi.

Genel teknoloji kamuoyunda ChatGPT’nin var olmayan akademik makalelere atıf yaptığı, sahte CEO alıntıları kurguladığı ve teknik konularda "kendinden emin bir şekilde hatalı bilgi sunma" (halüsinasyon) eğilimi gösterdiği tartışılmaktadır. Bazı kullanıcılar, sistemin sunduğu kodların ilk bakışta profesyonel göründüğünü ancak derinlemesine incelendiğinde büyük mantık hataları barındırdığını bildirdi.

Stack Overflow yönetimi, bu yasağın toplulukla yapılacak istişareler neticesinde nihai bir politikaya dönüştürüleceğini ve kuralı ihlal eden kullanıcılara yaptırım uygulanacağını duyurdu. Olay, üretken yapay zekâ sistemlerinin içerik üretim hızının, insan tabanlı denetim mekanizmalarını işlevsiz bırakabileceğine dair önemli bir örnek olarak kayıtlara geçti.