SearchGPT prototipinin tanıtım materyallerinde ve test aşamasında hatalı bilgiler sunduğu bildirildi

OpenAI tarafından Temmuz 2024’te duyurulan ve Google’a rakip bir yapay zekâ destekli arama motoru olarak konumlandırılan SearchGPT prototipinin, henüz tanıtım aşamasında olgusal hatalar içerdiği tespit edildi. Şirketin yayımladığı resmî tanıtım videosunda, Kuzey Karolina’daki bir müzik festivaline yönelik sorguya verilen yanıtta, festival tarihlerinin 29 Temmuz - 16 Ağustos olarak gösterildiği; ancak festivalin gerçekte 27 Temmuz’da sona erdiği belirlendi. Sistemin sunduğu tarih aralığının, festival gişesinin resmî olarak kapalı olduğu döneme denk geldiği bildirildi.

Sistemin yaklaşık 10.000 kişilik bir test grubuna açılmasının ardından, kullanıcılar tarafından farklı "halüsinasyon" ve doğruluk sorunları rapor edilmeye devam etti. Bir test kullanıcısının Dreamforce teknoloji konferansına ilişkin sorgusuna SearchGPT’nin, OpenAI CEO’su Sam Altman’ın konuşmacı olduğunu belirterek yanıt verdiği; ancak Altman’ın bu yılki etkinlik listesinde yer almadığı, sistemin muhtemelen geçen yılki verileri güncelmiş gibi sunduğu aktarıldı. Ayrıca bazı test kullanıcıları, sistemin yerel aramalar ve alışveriş sorgularında Google’ın gerisinde kaldığını ve kaynak atıflarının zaman zaman kafa karıştırıcı olabildiğini ifade etti.

OpenAI sözcüsü Kayla Wood, SearchGPT’nin henüz bir prototip aşamasında olduğunu ve geri bildirimler doğrultusunda iyileştirileceğini belirtti. Şirket, sistemin nihai amacının bu arama özelliklerini ChatGPT’ye entegre etmek olduğunu açıkladı. Bu tür hataların, kelime tahmini üzerine kurulu büyük dil modellerinin çalışma prensibinden kaynaklandığı ve modellerin bilgiyi insanlar gibi anlamlandırmak yerine olasılıklar üzerinden sunduğu belirtilmektedir.

Olayda sistemin sunduğu hatalı bilgilerin kullanıcılar üzerinde doğrudan bir maddi zarara yol açıp açmadığına dair somut bir kanıt sunulmamış; ancak sistemin güvenilirliği ve olgusal doğruluğu tartışmaya açılmıştır.