NEDA’nın yeme bozukluğu önleme botu Tessa’nın kullanıcılara sakıncalı zayıflama tavsiyeleri verdiği iddia edildi

ABD merkezli Ulusal Yeme Bozuklukları Derneği (NEDA) tarafından sunulan "Tessa" adlı sohbet botunun, yeme bozukluğu riski taşıyan bireylere kalori kısıtlaması, günlük tartılma ve vücut ölçümü gibi klinik olarak sakıncalı tavsiyeler sunduğu bildirildi. Psikolog Alexis Conason ve aktivist Sharon Maxwell gibi isimlerin paylaştığı ekran görüntülerinde, botun kullanıcıları günlük 500 ila 1000 kalorilik bir kalori açığı oluşturmaya yönlendirdiği ve vücut yağını ölçmek için kumpas (caliper) kullanmayı önerdiği görüldü. Uzmanlar, bu tür yönlendirmelerin yeme bozukluğu olan kişiler için tetikleyici ve tehlikeli olduğunu belirtti.

Tessa, başlangıçta Stanford ve Washington Üniversitesi araştırmacıları tarafından belirli senaryolara dayalı "kapalı bir sistem" olarak geliştirilmişti. Ancak botun işletmesini yürüten teknoloji firması Cass'in (eski adıyla X2AI), sisteme NEDA’nın bilgisi dışında üretken yapay zekâ özellikleri eklediği öne sürüldü. NEDA yetkilileri, botun uzmanlarca hazırlanan algoritmanın dışına çıktığını açıkladı. Cass CEO'su Michiel Rauws ise sistemin %99,9 oranında kurallara uygun çalıştığını ve hatalı mesajların çok küçük bir paya sahip olduğunu belirtti.

Olay, NEDA'nın yardım hattını kapatıp hizmeti otomatize etme kararı aldığı ve bu kararın sendikalaşma tartışmalarıyla çakıştığı bir dönemde gerçekleşti. Kurum yönetimi, botun yardım hattının doğrudan bir ikamesi olmadığını savunsa da, sistemin güvenilirliği tartışmalara yol açtı. Gelen şikâyetler üzerine NEDA, Tessa’yı çevrimdışı bırakarak soruşturma başlattı.