OpenAI’ın GPT-4o modelinin gerçeğe yakın sahte belgeler üretmek amacıyla kullanılabileceği ve bu durumun dolandırıcılık risklerini artırdığı bildirildi

OpenAI’ın GPT-4o modelinin, önceki nesil yapay zekâ modellerinin aksine, görseller içerisinde son derece tutarlı ve okunabilir metinler oluşturabildiği; bu yeteneğin sahte makbuz, reçete ve kimlik belgesi gibi dokümanların üretiminde kötüye kullanılabileceği öne sürüldü. Menlo Ventures yöneticisi Deedy Das, sistemin San Francisco’daki gerçek bir restorana aitmiş gibi görünen, kalem kalem harcamaların, vergi verilerinin ve bahşiş hesaplamalarının yer aldığı ikna edici bir sahte makbuz oluşturduğunu paylaştı.

Sosyal medya üzerinden yapılan incelemelerde, kullanıcıların bu sahte görsellere dijital filtreler ve "yemek lekesi" gibi gerçekçilik algısını güçlendiren unsurlar ekleyerek, belgeleri harcama beyanı dolandırıcılığı (expense fraud) için uygun hale getirebildiği gözlemlendi. Ayrıca Das’ın, sistem üzerinden Zoloft gibi reçeteye tabi ilaçlar için de sahte reçeteler oluşturabildiği aktarıldı. Bu durumun; vergi formları, banka çekleri, kimlik kartları ve doğum belgeleri gibi resmi ve finansal dokümanların taklit edilmesi riskini artırdığı değerlendirilmektedir.

Uzmanlar, görsel kanıtlara dayalı geleneksel doğrulama süreçlerinin bu teknolojik gelişme karşısında yetersiz kalabileceğine dikkat çekmektedir. OpenAI ve diğer teknoloji şirketlerinin kullandığı dijital filigran veya meta veri gibi güvenlik önlemlerinin kolaylıkla devre dışı bırakılabileceği veya manipüle edilebileceği belirtilmektedir. Mevcut aşamada, üretilen içeriklerin gerçekliğinin bütünüyle ayırt edilmesinin zorlaştığı ve bu durumun kurumsal denetim mekanizmalarında ciddi güvenlik açıklarına yol açabileceği bildirilmektedir.