ChatGPT’nin hukuk profesörleri hakkında asılsız suçlamalar ve sahte kaynaklar ürettiği bildirildi

Nisan 2023’te yayımlanan raporlara göre, hukuk profesörü Jonathan Turley’nin ismi, ChatGPT tarafından hazırlanan ve cinsel tacizle suçlanan hukukçuları listeleyen bir metinde yer almıştır. Sistemin, Turley’nin Alaska'ya yapılan bir okul gezisinde taciz girişiminde bulunduğuna dair asılsız bir iddia ortaya attığı ve bu iddiayı desteklemek için Washington Post gazetesine ait olduğu öne sürülen, ancak gerçekte var olmayan Mart 2018 tarihli bir haberi kaynak gösterdiği belirtilmiştir. Turley, ne böyle bir suçlamayla karşılaştığını ne de iddia edilen okul gezisinin gerçekleştiğini ifade etmiştir.

UCLA hukuk profesörü Eugene Volokh tarafından yürütülen incelemelerde, ChatGPT’nin farklı isimler hakkında da benzer asılsız iddialar ürettiği tespit edilmiştir. Sistemin, bir şahıs hakkında dolandırıcılıktan suçlu bulunduğuna dair detaylı ancak tamamen kurgusal bir mahkûmiyet öyküsü oluşturduğu; bu öyküyü desteklemek için Reuters ve diğer medya kuruluşlarına atfedilen sahte alıntılar sunduğu bildirilmiştir. Volokh, sistemin sunduğu örneklerin önemli bir kısmının tamamen asılsız olduğunu ve gerçekçi görünen ancak sahte olan kaynaklarla (hallucination) desteklendiğini ifade etmiştir.

OpenAI sözcüsü, ChatGPT’nin her zaman doğru yanıtlar üretmeyebileceği konusunda kullanıcılara karşı şeffaf olmaya çalıştıklarını açıklamıştır. 2024 yılı sonundaki raporlar, OpenAI'ın Jonathan Turley ve Brian Hood gibi isimleri sistem üzerinde filtrelemiş olabileceğini, bu isimler sorgulandığında sistemin yanıt vermeyi reddettiğini göstermiştir. OpenAI, bazı isimlerin engellenmesini bir 'hata' (glitch) olarak nitelendirse de, gözlemciler bu durumun geçmişteki hatalı içeriklerden kaynaklanan yasal riskleri yönetme çabası olabileceğini değerlendirmektedir.

Olay, üretken yapay zekâ sistemlerinin ikna edici bir üslupla sahte kanıtlar yaratabilme kapasitesinin, bireylerin itibarı üzerinde ciddi riskler oluşturabileceğini göstermektedir.