Roomba geliştirme cihazları tarafından kaydedilen mahrem görüntülerin veri etiketleme sürecinde sosyal medyaya sızdırıldığı bildirildi

2020 yılının sonbaharında, iRobot firmasına ait Roomba J7 serisi elektrikli süpürgelerin geliştirme sürümleri tarafından kaydedilen mahrem ev içi görüntülerin, veri etiketleme çalışanları tarafından Facebook ve Discord gibi platformlardaki kapalı gruplarda paylaşıldığı bildirildi. Sızdırılan görseller arasında, bir kadının tuvaletteki mahrem anları ve bir çocuğun yüzünün net bir şekilde görüldüğü karelerin de bulunduğu aktarıldı.

iRobot tarafından yapılan açıklamada, söz konusu görüntülerin piyasaya sürülen tüketici ürünlerinden değil, donanım ve yazılım modifikasyonuna sahip "özel geliştirme robotlarından" elde edildiği doğrulandı. Şirket, bu cihazların veri toplama amacıyla ödeme yapılan çalışanlara ve test kullanıcılarına verildiğini; bu kişilerin video akışının eğitim amaçlı kullanılacağına dair yazılı onay verdiklerini belirtti. Ayrıca, cihazların üzerinde "video kaydı devam ediyor" ibaresini içeren parlak yeşil etiketlerin bulunduğu ve hassas içeriklerin temizlenmesi sorumluluğunun bu kullanıcılarda olduğu ifade edildi.

MIT Technology Review tarafından aktarılan bilgilere göre olay, yapay zekâ eğitim süreçlerinde kullanılan veri tedarik zincirindeki riskleri ortaya koymaktadır. Görüntülerin, iRobot’un veri etiketleme hizmeti aldığı Scale AI adlı girişimle çalışan Venezuela merkezli sözleşmeli işçiler tarafından sızdırıldığı öne sürüldü. iRobot, görüntülerin bir hizmet sağlayıcı tarafından gizlilik sözleşmesinin ihlal edilmesi yoluyla paylaşıldığını belirterek ilgili kurumla ilişiğini kestiğini ve olayla ilgili inceleme başlattığını duyurdu.

Bu vaka, yapay zekâ sistemlerinin "öğrenme" sürecinde ham verilerin insanlar tarafından incelenmesi gerekliliğinin yarattığı gizlilik risklerini ve verilerin küresel ölçekteki yolculuğu sırasında denetimden çıkabileceğini göstermektedir. Şirket, son kullanıcı verilerinin bu sızıntıdan etkilenmediğini savunsa da, mahrem verilerin üçüncü taraf etiketleyicilere ulaştırılma biçimi ve bu süreçteki denetim eksikliği uzmanlarca eleştiri konusu olmuştur.