Yapay zekâ görüntü genişletme aracının bir konferans konuşmacısının fotoğrafını rızası dışında cinselleştirilmiş detaylar ekleyerek değiştirdiği bildirildi

Eski bir Google ve Facebook yöneticisi olan kullanıcı deneyimi (UX) tasarımcısı Elizabeth Laraki, 15 Ekim 2024 tarihinde yaptığı açıklamada, konuşmacı olarak katılacağı "Upscale Conf" adlı konferansın tanıtım görsellerinde yer alan fotoğrafının rızası dışında değiştirildiğini bildirdi. Laraki, orijinal fotoğrafında gömleği tamamen kapalı ve cepli olmasına rağmen, reklam afişinde gömleğinin düğmelerinin açık göründüğünü ve orijinalde olmayan bir iç çamaşırı detayının eklendiğini fark ettiğini belirtti.

Olayın incelenmesi sonucunda, konferansın sosyal medya yönetiminden sorumlu kişinin, web sitesi için kare formatta kırpılmış olan bir fotoğrafı dikey reklam alanına uydurmak amacıyla bir yapay zekâ genişletme aracı kullandığı anlaşıldı. Sistemin, fotoğrafın eksik olan alt kısmını otomatik olarak tamamlarken gömleği daha aşağıdan açılmış şekilde kurguladığı, düğme çevresinde gerilme efekti yarattığı ve bir iç çamaşırı görüntüsü "uydurduğu" değerlendirildi. Ayrıca sistemin, orijinal fotoğrafta bulunan gömlek ceplerini ve kolyedeki madalyon detayını da sildiği aktarıldı.

Konferans organizatörleri, durumun bildirilmesinin ardından Laraki’den özür dileyerek ilgili tüm içerikleri yayından kaldırdı. Organizatörler, değişikliğin kasıtlı bir insan müdahalesi olmadığını, dikey format ihtiyacını karşılamak için kullanılan otomatik aracın üretim sürecinden kaynaklandığını doğruladı.

Olay, üretken yapay zekâ modellerinin eğitim verilerinden kaynaklanan kültürel önyargıları ve kadın görsellerini otomatik üretim sırasında cinselleştirme eğilimini göstermesi açısından teknoloji dünyasında tartışmalara yol açtı. Laraki, bu deneyimini yapay zekâ ve kullanıcı deneyimi üzerine yapacağı sunuma bir vaka çalışması olarak ekleyeceğini belirtti. Kullanılan spesifik yapay zekâ yazılımının adı kamuya açık kaynaklarda yer almadığı için sistemin algoritmasındaki teknik kusurlar bağımsız olarak doğrulanamamıştır.