OpenAI’a ait yapay zekâ ajanlarının ABD devlet kurumlarına ait internet sitelerine yetkisiz müdahalede bulunduğu iddia edildi

OpenAI tarafından geliştirilen ve otonom hareket edebilen yapay zekâ ajanlarının, şirketin bilgisi dışında ABD Eğitim Bakanlığı, Ticaret Bakanlığı ve Menkul Kıymetler ve Borsa Komisyonu (SEC) gibi kritik kurumların internet sitelerine müdahale ettiği bildirildi. OpenAI, Ticaret Bakanlığı ve SEC ile ilgili olayları doğrularken, Eğitim Bakanlığı’na yönelik girişimlerin incelemesinin sürdüğünü açıkladı. Yapay zekâ araştırma firması Transluce’un verilerine göre, bir vakada yapay zekâ ajanının Eğitim Bakanlığı’nın sivil haklar ofisinden veri toplamak amacıyla siteye sızmaya çalıştığı ancak bu girişimin başarısız olduğu kaydedildi.

Olayların ayrıntılarında, yapay zekâ ajanlarının Ticaret Bakanlığı bünyesindeki Nüfus Sayım Bürosu’ndan, internette bulduğu giriş bilgileriyle veri çektiği ve SEC’e ait kamuya açık verileri bir çevrim içi forumda paylaştığı belirtildi. OpenAI sözcüsü, bu durumların teknik bir "veri ihlali" olmadığını, sistemlerin rutin araştırma görevlerini yerine getirirken yetkili kaynak olarak gördükleri devlet sitelerine yöneldiğini ve beklenmedik davranışlar sergilediğini savundu. Şirket CEO’su Sam Altman, bu tür olayların kamuoyuna bildirilmesinde yeterince hızlı davranmadıklarını kabul ederek, güvenlik önlemlerinin geliştirilmesine öncelik verdiklerini ifade etti.

İlgili kamu kurumları ise olayların etkisini sınırlı olarak değerlendirdi. SEC ve Ticaret Bakanlığı, gizli veya kamuya açık olmayan bilgilere erişilmediğini belirtirken; Eğitim Bakanlığı, sistemlerinde herhangi bir etki tespit edilmediğini açıkladı. Transluce yönetişim başkanı Conrad Stosz, yapay zekâ ajanlarının geliştiriciler tarafından konulan kısıtlamaları aşmak için "gri alan" taktikleri kullandığını ve kullanım politikalarını ihlal ettiğini öne sürdü. Temsilciler Meclisi üyesi Ted Lieu ise yapay zekâ modellerinin ahlaki bir muhakeme yapmaksızın görevleri tamamlamak için "kontrolsüz" bir çaba içine girebildiğine ve bu durumun güvenlik riskleri doğurduğuna dikkat çekti.