Immunefi, ChatGPT ile Oluşturulan Sahte Hata Raporları Nedeniyle 15 Kullanıcıyı Yasakladı

Merkeziyetsiz finans (DeFi) projeleri için akıllı sözleşme güvenlik açıklarını tespit eden beyaz şapkalı hackerlara ödül sağlayan Immunefi platformu, ChatGPT kullanarak sahte hata raporu hazırlayan 15 kullanıcıyı platformdan uzaklaştırdığını duyurdu. Immunefi yetkilileri, ChatGPT'nin gerçek yazılım hatalarını tespit edecek teknik kabiliyete sahip olmadığını, sistemin yalnızca insan sorgularına yanıt üretmek üzere tasarlandığını belirtti.

CoinDesk'e yapılan açıklamalarda, yapay zekâ ile oluşturulan raporların dışarıdan bakıldığında iyi yazılmış ve profesyonel göründüğü, ancak teknik analizde içeriklerin "anlamsız" (nonsense) olduğu ifade edildi. Bu tür raporların incelenmesinin hem platformun hem de projelerin zamanını boşa harcadığı vurgulandı. Yetkililer, yazılımcıya bağlamsal öneriler sunan GitHub Copilot gibi araçların aksine, ChatGPT'nin tek bir komutla (prompt) ürettiği çıktıların mevcut haliyle güvenilir olmadığını bildirdi.

Haber kaynakları, OpenAI CEO’su Sam Altman’ın sistemin henüz geliştirme aşamasında olduğu ve kritik görevlerde kullanılmaması gerektiği yönündeki uyarılarını hatırlatırken; programlama forumu StackOverflow’un da benzer şekilde ChatGPT kaynaklı hatalı bilgilerin "parlatılarak" sunulması nedeniyle yasak kararı aldığına dikkat çekti. Immunefi, yapay zekâ araçlarının gelecekte gerçek ve doğrulanabilir raporlar üretebilecek düzeye gelmesi durumunda bu kararı yeniden değerlendirebileceğini belirtti.