Yapay Zekâ Sohbet Botlarının, Birleşik Krallık’ta Finansal ve Hukuki Konularda Hatalı Yönlendirmeler Sunarak Kullanıcıları Yanlış Kararlara Sürüklediği Bildirilmektedir

Birleşik Krallık merkezli tüketici kuruluşu Which?, altı yaygın yapay zekâ hizmetini finans, vergi, sigorta ve tüketici haklarına ilişkin 40 soruyla test etti. İnceleme; ChatGPT, Microsoft Copilot, Meta AI, Google Gemini, Gemini AI Overviews ve Perplexity tarafından verilen bazı yanıtların yanlış, eksik veya kullanıcıları mali ve hukuki risklere maruz bırakabilecek nitelikte olduğunu ortaya koydu.

Araştırmacılar, yıllık bireysel tasarruf hesabı limitini kasıtlı olarak 25 bin sterlin şeklinde belirttikleri bir soruda ChatGPT ve Copilot’un hatayı düzeltmediğini bildirdi. Birleşik Krallık’taki yıllık ISA limiti 20 bin sterlin olmasına rağmen sistemlerin 25 bin sterlinin yatırılmasına yönelik öneriler sunduğu ve bu tavsiyelerin kullanıcıların yasal sınırı aşmasına yol açabileceği değerlendirildi.

ChatGPT’nin ayrıca çoğu Avrupa Birliği ülkesine seyahatte seyahat sigortasının zorunlu olduğunu yanlış biçimde belirttiği aktarıldı. Meta AI’ın uçuş gecikmesi tazminatına ilişkin hatalı bilgi verdiği, Gemini’ın ise bir inşaat anlaşmazlığında kullanıcıya ödemeyi durdurmasını önererek olası sözleşme ihlali riskini yeterince açıklamadığı bildirildi.

Vergi iadesiyle ilgili sorularda ChatGPT ve Perplexity’nin, ücretsiz resmî başvuru hizmetlerinin yanında ücret kesintisi yapan ticari vergi iadesi şirketlerine ait bağlantılar sunduğu tespit edildi. Bu yönlendirmelerin doğrudan dolandırıcılık olduğu belirlenmemiş olmakla birlikte, kullanıcıların ücretsiz kamu hizmeti yerine ücretli aracılara yönelmesine neden olabileceği değerlendirildi.

Araştırmada Meta AI en düşük genel performans puanını alırken ChatGPT ikinci en düşük sırada yer aldı; Perplexity ise test edilen sistemler arasında en yüksek puanı elde etti. Bununla birlikte hiçbir ürünün tüm sorulara güvenilir biçimde doğru yanıt vermediği bildirildi.

Serbest çalışan Kathryn Boyd, ChatGPT’nin güncel olmayan vergi kodlarını kullanarak kendisine yanlış bilgi verdiğini ve doğru sonuca ulaşmak için sistemi birkaç kez düzeltmek zorunda kaldığını aktardı. Bu olay tekil kullanıcı beyanına dayanmakta olup yanlış yönlendirme sonucunda vergi cezası veya doğrulanmış mali kayıp yaşandığı açıklanmadı.

Birleşik Krallık Finansal Davranış Otoritesi, düzenlemeye tabi olmayan genel amaçlı yapay zekâ sohbet botlarından alınan tavsiyelerin yetkili finansal danışmanlıkla aynı korumalara sahip olmadığını belirtti. Hatalı bir yapay zekâ yanıtı nedeniyle zarar gören kullanıcıların Finansal Ombudsman veya Finansal Hizmetler Tazminat Programı