Özel tıbbi kayıt fotoğraflarının popüler bir yapay zekâ eğitim veri setinde yer aldığı bildirildi

California merkezli bir yapay zekâ sanatçısının, 2013 yılında doktoru tarafından klinik dokümantasyon amacıyla çekilen özel tıbbi fotoğraflarının, açık kaynaklı LAION-5B veri setinde yer aldığını keşfettiği bildirildi. Sanatçının, "Have I Been Trained" adlı platform üzerinden yaptığı görsel aramada, nadir bir genetik rahatsızlığına yönelik cerrahi işlemler öncesi ve sonrasına ait yüz fotoğraflarına ulaştığı aktarıldı.

Söz konusu fotoğrafların yalnızca tıbbi kullanım için onaylandığı; fotoğrafları çeken doktorun 2018'deki vefatının ardından verilerin bir şekilde internete sızdığı ve ardından LAION tarafından veri kazıma (scraping) yöntemiyle veri setine dahil edildiği değerlendirilmektedir. Ars Technica tarafından yapılan incelemede, veri setinde benzer durumda olan binlerce başka hastaya ait tıbbi fotoğrafların da bulunduğu öne sürülmüştür. Bu görsellerin, Midjourney ve Stability AI gibi şirketlerin ticari hizmetlerinde kullanılan modellerin eğitiminde kullanılmış olabileceği belirtilmektedir.

LAION yetkilileri, görüntüleri bizzat barındırmadıklarını, yalnızca internetteki mevcut URL'lere yönlendirme yaptıklarını ifade ederek sorumluluğu görselleri barındıran kaynak web sitelerine yönlendirmiştir. Stability AI CEO'su Emad Mostaque ise modellerin verileri doğrudan kopyalamadığını ancak belirli verilerin model üzerindeki etkisini azaltmanın teknik olarak mümkün olabileceğini ifade etmiştir. Bununla birlikte, bireysel talepler doğrultusunda verilerin eğitim sürecinden geriye dönük olarak çıkarılmasına yönelik yerleşik bir mekanizmanın veya taahhüdün bulunmadığı bildirilmiştir.

Olayda, yapay zekâ sistemlerinin sanatçının yüzünü mevcut teknolojiyle birebir kopyaladığına dair kesin bir kanıt sunulmamış; ancak rıza dışı veri kullanımının mahremiyet riskleri oluşturduğu ve gelecekteki olası kötüye kullanımlara zemin hazırladığı vurgulanmıştır. İlgili fotoğrafların veri setinden çıkarılmasına yönelik taleplerin, veri setinin dağıtık yapısı ve barındırma modelinin karmaşıklığı nedeniyle tam olarak karşılanamadığı görülmektedir.