Google AI Overviews ve ChatGPT’nin sahte kruvaziyer müşteri hizmetleri numarasını güvenilir iletişim bilgisi olarak sunduğu bildirildi

Las Vegas’ta bir emlak şirketi işleten Alex Rivlin, Avrupa’daki Royal Caribbean seyahati için servis rezervasyonu yapmak amacıyla şirketin müşteri hizmetleri numarasını Google’da aradı. Rivlin’in anlatımına göre Google AI Overviews tarafından öne çıkarılan numarayı aradığında, kendisini Royal Caribbean temsilcisi olarak tanıtan bir dolandırıcıyla görüştü.

Telefondaki kişi, Venedik’teki servis ücretleri ve yolcu alma noktaları hakkında ayrıntılı bilgi vererek görüşmenin gerçek bir müşteri hizmetleri işlemi olduğu izlenimini oluşturdu. Rivlin, servis ve bağlantılı ücretler için 768 ABD doları tutarında ödeme yapmayı kabul ederek kredi kartı bilgilerini paylaştı. Ertesi gün hesabında ek şüpheli işlemler fark etmesi üzerine kartını iptal etti; ilgili ödemelerin daha sonra geri alındığı bildirildi.

İncelemede aynı sahte telefon numarasının Google ve ChatGPT sonuçlarında Disney Cruise Line ile Princess Cruises dâhil farklı kruvaziyer şirketlerinin müşteri hizmetleri hattı olarak da gösterildiği belirlendi. Dolandırıcıların sahte iletişim bilgilerini inceleme sitelerine, mesaj panolarına ve diğer internet sayfalarına yerleştirdiği; arama ve üretken yapay zekâ sistemlerinin bu tekrar eden bilgileri güvenilir kaynaklardan alınmış gibi sunabildiği değerlendirildi.

Google, bildirilen bazı sahte numara örnekleri hakkında işlem yaptığını ve nadir sorgulardaki güvenilirliği artırmaya yönelik çalışmalar yürüttüğünü açıkladı. OpenAI ise ChatGPT’nin sahte numara için kaynak gösterdiği bazı internet sayfalarının kaldırılmış olduğunu, ancak kaynak içerikler silindikten sonra sistemlerdeki bilgilerin güncellenmesinin zaman alabildiğini belirtti.

Olayda yapay zekâ sistemleri dolandırıcılık görüşmesini doğrudan gerçekleştirmemiştir. Temel sorun, kötü niyetli kişilerce internete yerleştirilen sahte iletişim bilgilerinin otomatik sistemler tarafından yeterli doğrulama yapılmadan güvenilir ve doğrudan yanıt biçiminde sunulmasıdır.