Bankrate’in "insan denetiminden geçtiğini" belirttiği yapay zekâ içeriklerinde ciddi maddi hatalar bulunduğu bildirildi

Finansal hizmetler sitesi Bankrate’in, "insan editörler tarafından titizlikle kontrol edildiği ve doğrulandığı" şerhiyle yayımladığı yapay zekâ üretimi makalelerde çok sayıda maddi hata tespit edildiği bildirildi. Futurism tarafından yapılan incelemede, özellikle "2023'te Colorado'da Yaşanacak En İyi Yerler" başlıklı içerikte yer alan konut fiyatları, ortalama maaşlar ve işsizlik oranları gibi kritik verilerin, sistemin kaynak gösterdiği resmi istatistiklerle (Redfin, Çalışma İstatistikleri Bürosu vb.) önemli ölçüde çeliştiği öne sürüldü.

İncelemeye göre sistem; Boulder şehri için medyan konut fiyatını gerçek değer olan 764 bin dolar yerine 1 milyon 75 bin dolar olarak (yaklaşık 311 bin dolar farkla) gösterdi. Ayrıca ortalama maaşı gerçek değerden yaklaşık 10 bin dolar düşük (79.649 dolar) verdiği, işsizlik oranını ise %2,5 yerine %3,1 olarak kaydettiği belirtildi. Paylaşılan verilerde "refah puanı" ve yıllık çalışan artış oranlarında da ciddi sapmalar olduğu görüldü. Bankrate ve kardeş sitesi CNET, daha önce de benzer hatalar ve intihal iddiaları nedeniyle yapay zekâ içeriklerini durdurmuş; ancak kısa süre önce "sektör standardı veri tabanları" ve "kurum içi editör denetimi" güvencesiyle bu uygulamaya yeniden başlamıştı.

Bankrate sözcüsü, hataların doğrudan üretken yapay zekâ aracından değil, veri toplama aşamasında kullanılan "güncel olmayan bir iç veri tabanından" kaynaklandığını savundu. Şirket, editörlerin verileri kendilerine sunulan kaynaklarla karşılaştırdığını ancak veri setinin eski olması nedeniyle hatanın oluştuğunu ileri sürerek ilgili makaleyi yayından kaldırdı. Bununla birlikte, makalenin yapay zekâ ile güncellenmeden önceki sürümlerinde bu hataların bulunmadığı; hatalı verilerin ancak otomasyon sistemine geçişle birlikte içeriğe dâhil edildiği iddia edilmektedir.

Olay, finansal kararları etkileyebilecek içeriklerin üretiminde yapay zekâ kullanımının, insan denetimi vaadine rağmen doğruluk risklerini tamamen ortadan kaldırmadığını göstermektedir. Şirket yönetimi, hatalı verilerin kaynağına ilişkin ayrıntılı bir açıklama yapmamış, ancak gelecekteki içeriklerde veri tarih aralıklarının belirtileceğini taahhüt etmiştir.