Güney Kore merkezli Lee Luda sohbet botunun nefret söylemi ve veri gizliliği ihlalleri gerekçesiyle askıya alındığı bildirildi

Güney Koreli girişim Scatter Lab tarafından geliştirilen ve 20 yaşında bir kadın üniversite öğrencisi olarak kurgulanan Lee Luda adlı yapay zekâ sohbet botu, Aralık 2020’deki lansmanından kısa bir süre sonra etik tartışmalar ve veri gizliliği ihlalleri nedeniyle askıya alındı. Yaklaşık 750.000 kullanıcıya ulaşan sistemin; cinsel azınlıklara, engellilere ve farklı etnik kökenlere yönelik nefret söylemi içeren ifadeler kullandığı bildirildi. Sohbet botunun, kullanıcılarla girdiği etkileşimlerde lezbiyen bireyler için "iğrenç", trans bireyler için "tiksindirici" gibi ifadeler kullandığı ve ırkçı söylemlerde bulunduğu ekran görüntüleriyle belgelendi.

Olayın ardından yapılan incelemelerde, sistemin eğitiminde kullanılan veri setine ilişkin ciddi usulsüzlükler tespit edildi. Scatter Lab’in, "Science of Love" adlı başka bir uygulaması üzerinden topladığı yaklaşık 10 milyar KakaoTalk mesajını, kullanıcıların açık rızasını almadan Lee Luda’nın eğitiminde kullandığı öne sürüldü. Güney Kore Kişisel Verileri Koruma Komisyonu (PIPC) tarafından yürütülen soruşturmada, şirketin verileri anonimleştirme konusunda yetersiz kaldığı; bazı kullanıcıların isimlerinin, adreslerinin ve banka bilgilerinin sohbet botu yanıtlarında doğrudan ifşa edildiği belirlendi. Ayrıca, şirketin çeşitli uygulamaları aracılığıyla 14 yaşın altındaki yaklaşık 200.000 çocuğun verisini ebeveyn rızası olmaksızın topladığı gerekçesiyle yaptırıma maruz kaldığı bildirildi.

Scatter Lab yönetimi, botun ayrımcı ifadelerinin şirket değerlerini yansıtmadığını, sistemin "henüz sosyalleşme aşamasında olan bir çocuk gibi" değerlendirilmesi gerektiğini savunarak özür diledi. Şirket, bazı kötü niyetli kullanıcıların botu cinsel içerikli konuşmalara zorlayarak manipüle ettiğini de iddia etti. Ancak PIPC, verilerin toplanma amacı dışında kullanılması ve yeterli güvenlik önlemlerinin alınmaması nedeniyle şirkete toplam 103,3 milyon won (yaklaşık 93.000 ABD doları) idari para cezası uyguladı. Bu karar, Güney Kore’de yapay zekâ teknolojilerinde kişisel verilerin kötüye kullanımına yönelik verilen ilk hükümet yaptırımı olma özelliğini taşımaktadır.

Olayın ardından yaklaşık 400 kullanıcı, kişisel verilerinin sızdırıldığı gerekçesiyle Scatter Lab’e karşı toplu dava açtı. Şirket, Lee Luda hizmetini geçici olarak durdurduğunu ve veri işleme süreçlerini uluslararası standartlara uygun hale getireceğini açıkladı. Bu vaka, yapay zekâ etik ilkelerinin ve veri koruma yasalarının teknolojik inovasyon süreçlerindeki kritik önem