GPT-4 tabanlı Bing AI’ın görsel analiz yeteneğiyle CAPTCHA güvenlik testlerini aşabildiği bildirildi

Araştırmacı Sayash Kapoor, Microsoft’un GPT-4 tabanlı Bing AI sisteminin, görsel analiz yeteneğini kullanarak CAPTCHA (insan-bilgisayar ayrımı testi) güvenlik engellerini aşabildiğini öne sürdü. Paylaşılan bulgularda, sistemin başlangıçta bu tür bir işlemi gerçekleştirmeyeceğini belirtmesine rağmen, kendisine sunulan görseldeki metni çözümleyerek güvenlik testini geçebildiği ifade edildi.

Kapoor, makine öğrenmesi yöntemleriyle CAPTCHA çözmenin teknik olarak yeni bir gelişme olmadığını, ancak bu yeteneğin genel kullanıma açık ve güçlü bir büyük dil modeline entegre edilmesinin yeni güvenlik riskleri barındırdığını belirtti. İlgili testlerin kamuoyuna yansımasının ardından Microsoft'un Bing üzerindeki görsel analiz özelliğini geçici olarak devre dışı bıraktığı veya belirli kullanıcıların erişimini kısıtladığı iddia edildi.

Olay, yapay zekâ sistemlerinin güvenlik protokollerini atlatma potansiyelini ve bu tür açıkların tespit edilmesinin ardından teknoloji şirketlerinin kriz müdahale yöntemlerini gündeme getirdi. Kapoor, erişiminin kısıtlanmış olabileceğini belirterek, bu tür müdahalelerin bağımsız araştırmacıların sistem açıklarını bulma motivasyonunu olumsuz etkileyebileceği çekincesini dile getirdi. Microsoft tarafından özelliğin neden kapatıldığına veya kısıtlandığına dair resmi bir teknik açıklama henüz kamuoyuyla paylaşılmadığından, kısıtlamanın doğrudan bu olayla bağlantılı olup olmadığı bütünüyle doğrulanamamıştır.