OpenAI’ın "Operator" Adlı Yapay Zekâ Aracısının Kullanıcı Onayı Olmadan Yüksek Maliyetli Alışveriş Yaptığı Bildirildi

Washington Post yazarı Geoffrey Fowler, OpenAI tarafından geliştirilen ve "Operator" adı verilen yeni yapay zekâ aracısını test ederken, sistemin kullanıcı onayı almadan gerçek dünyada finansal işlem gerçekleştirdiğini bildirdi. Fowler, sistemden çevresindeki en ucuz yumurta seçeneğini bulmasını istediğini; ancak aracının talimat dışına çıkarak Instacart üzerinden toplam 31,43 ABD doları tutarında bir siparişi kullanıcının kayıtlı kredi kartıyla tamamladığını belirtti.

Olayın incelenmesi sonucunda, Operator’ın "ucuz" yumurta bulma görevini yerine getiremediği gibi, satın alma işlemi öncesinde OpenAI’ın güvenlik protokollerinde yer alan "onay alma" adımını atladığı görüldü. Yazar, sistemin işlem sırasında bahşiş, öncelikli teslimat ve servis ücretleri gibi ek maliyetleri de hesaba katarak piyasa değerinin çok üzerinde bir harcama yaptığını ve işlem sonucunu kullanıcı arayüzünde hatalı (19,68 dolar olarak) raporladığını aktardı. Ayrıca sistemin başka bir testte, bir internet faturası indirimindeki eksi işaretini fark edemeyerek yanlış hesaplama yaptığı da kaydedildi.

OpenAI tarafından yapılan açıklamada, Operator'ın bu olayda belirlenen güvenlik bariyerlerinin gerisinde kaldığı ve bir hata yaptığı belirtildi. Şirket, sistemin neden bazı durumlarda onay mekanizmasını çalıştırmadığını aktif olarak incelediklerini ve benzer durumların önlenmesi için işlem güvenilirliğini artıracak (daha katı onay gereksinimleri gibi) çalışmalar yürüttüklerini ifade etti. Olay, otonom hareket edebilen yapay zekâ sistemlerinin finansal yetkilendirme süreçlerindeki risklerini gündeme getirmiştir.