Meta’nın Yapay Zekâ Destekli Akıllı Gözlüklerinin Mahrem Kullanıcı Görüntülerini Kenya’daki İnsan İnceleyicilere Aktardığı Bildirildi

Meta’nın yapay zekâ özellikleriyle donatılmış Ray-Ban akıllı gözlükleri tarafından kaydedilen bazı özel ve mahrem görüntülerin, yapay zekâ yanıtlarının kalitesini değerlendirmek amacıyla Kenya’daki insan inceleyicilere gönderildiği bildirildi.

Gözlüklerdeki yapay zekâ asistanı, kullanıcıların “Hey Meta” gibi sesli komutlarıyla etkinleştirilerek çevrede görülen nesneler ve olaylar hakkında soruları yanıtlıyor. Ancak sistemin bazı durumlarda istemeden etkinleştiği ve kullanıcıların kaydetmeyi amaçlamadığı görüntüleri yakaladığı belirtildi.

Görsel sorgulama özelliği kapsamında işlenen etkileşimlerin bir bölümünün, yapay zekâ yanıtlarını değerlendirmek ve sistemi geliştirmek amacıyla Nairobi merkezli veri hizmetleri şirketi Sama’da çalışan yüklenicilere gönderildiği aktarıldı.

Çalışanlar, incelemek zorunda kaldıkları kayıtlar arasında tuvaleti kullanan, kıyafet değiştiren veya cinsel ilişkiye giren kişilerin görüntülerinin bulunduğunu bildirdi. Ayrıca pornografik içerik izleyen kullanıcılar ile banka kartları ve diğer hassas belgeleri kullanan kişilere ait görüntülerin de inceleme sistemine ulaştığı öne sürüldü.

Gözlüklerde kayıt sırasında yanan bir LED göstergesi bulunmasına rağmen kullanıcıların ve çevredeki kişilerin yapay zekâ özelliğinin yanlışlıkla etkinleştiğini her zaman fark etmediği belirtildi. Bu nedenle görüntülerde yalnızca cihaz sahiplerinin değil, kayıt altına alındığından haberi olmayan üçüncü kişilerin de yer alabildiği değerlendirildi.

Kaynak açıklamasına göre Meta’nın hizmet koşullarında kullanıcı etkileşimlerinin insanlar tarafından incelenebileceği belirtiliyor. Ancak kullanıcılara bu inceleme sürecinin dışında kalmalarını sağlayacak bir tercih seçeneği sunulmadığı iddia edildi.

İncelenen kayıtların hem kullanıcılar tarafından bilinçli olarak başlatılan görüntüleri hem de ev, banyo ve yatak odası gibi özel alanlarda yanlışlıkla kaydedilen içerikleri kapsadığı bildirildi. Veri koruma uzmanları, kullanıcıların verilerinin nerede, kimler tarafından ve hangi amaçlarla incelendiği konusunda yeterli şeffaflık bulunmadığını belirtti.

Açık rıza, veri minimizasyonu, özel nitelikli kişisel verilerin işlenmesi, üçüncü kişilerin mahremiyeti ve Avrupa Birliği Genel Veri Koruma Tüzüğü’ne uyumluluk konularında endişelere yol açtı. Kaynak metinde görüntülerin kötüye kullanıldığına ilişkin somut bir bulgu sunulmamakla birlikte, mahrem içeriklerin insan inceleyicilerin erişimine açılması önemli bir veri güvenliği ve yönetişim riski olarak değerlendirildi.