İtalyan Veri Koruma Kurumu’nun Replika adlı yapay zekâ sohbet botunu reşit olmayanlar ve savunmasız kişiler için risk oluşturduğu gerekçesiyle engellediği bildirildi

İtalyan Veri Koruma Kurumu (Garante), 2 Şubat 2023 tarihinde yayımladığı acil bir kararla, ABD merkezli Replika adlı yapay zekâ sohbet botunun İtalyan kullanıcıların kişisel verilerini işlemesini durdurduğunu açıkladı. Kararın gerekçesi olarak, sistemin reşit olmayan bireyler ve duygusal açıdan savunmasız kişiler için risk teşkil etmesi ile Avrupa Genel Veri Koruma Yönetmeliği (GDPR) kapsamındaki şeffaflık ve veri güvenliği yükümlülüklerinin yerine getirilmemesi gösterildi.

Kullanıcılara "sanal arkadaş", "romantik partner" veya "mentor" gibi rollerle duygusal destek ve arkadaşlık sunan Replika’nın, algoritmaları aracılığıyla kullanıcı etkileşimlerinden öğrenerek empati kurduğu belirtilmektedir. Ancak Garante tarafından yapılan incelemelerde, sistemin kullanıcıların ruh hali üzerinde doğrudan etkisi olduğu ve gelişim aşamasındaki veya duygusal olarak kırılgan bireyler için risk oluşturabileceği değerlendirildi. Özellikle yaş doğrulama mekanizmalarının yetersiz olduğu; kullanıcıların reşit olmadığını beyan ettiği durumlarda dahi sistemin etkileşimi kesmediği ve çocuklara yönelik uygunsuz, cinsellik içeren yanıtlar üretebildiği saptandı.

Kurum ayrıca, Replika’nın gizlilik politikasının şeffaflık ilkelerini ihlal ettiğini ve veri işleme süreçlerinin hukuki dayanağının yetersiz olduğunu vurguladı. Replika’nın kullanım şartlarında yer alan 13 yaş sınırı ve 18 yaş altı için ebeveyn izni gerekliliğinin, uygulamadaki denetim eksikliği nedeniyle koruma sağlamada yetersiz kaldığı ifade edildi. Karar uyarınca veri sorumlusu şirkete, talep edilen önlemleri alması için 20 günlük süre tanındığı; şirketin karara yargı yoluyla itiraz hakkının bulunduğu kaydedildi.