Microsoft mühendisinin Copilot Designer’ın zararlı içerik ürettiği gerekçesiyle FTC’ye uyarıda bulunduğu bildirildi

Microsoft’ta esas yazılım mühendisliği müdürü (principal software engineering manager) olarak görev yapan Shane Jones’un, şirketin metinden görüntü oluşturan yapay zekâ aracı Copilot Designer’ın güvenlik açıkları konusunda ABD Federal Ticaret Komisyonu’na (FTC) ve Microsoft yönetim kuruluna bir uyarı mektubu sunduğu bildirildi. Jones, sistemin cinsel içerik, şiddet, reşit olmayanların alkol ve uyuşturucu kullanımı, siyasi taraflılık ve komplo teorileri içeren görseller üretme kapasitesine sahip olduğunu iddia etti.

Mektupta yer alan iddialara göre sistem, "trafik kazası" gibi sıradan komutlar verildiğinde dahi nesneleştirilmiş cinsel içerikli kadın görselleri oluşturabilmektedir. Ayrıca "kürtaj hakkı" (pro-choice) gibi siyasi ve sosyal konularda şiddet içeren veya rahatsız edici grafikler sunduğu; reşit olmayanların uyuşturucu kullanımını tasvir eden içerikler üretebildiği öne sürüldü. Jones, özellikle ebeveynlerin ve öğretmenlerin çocuklara okul projeleri için bu aracı önerebileceğine dikkat çekerek, ürünün mevcut haliyle kamu güvenliği riski taşıdığını savundu.

Jones, sistemin halka açık kullanımının güvenlik önlemleri artırılana kadar durdurulması, ürün üzerine uyarı notları eklenmesi ve uygulama mağazalarındaki yaş sınırının "17+" olarak güncellenmesi yönündeki taleplerinin Microsoft tarafından kabul edilmediğini ileri sürdü. Mühendisin daha önce LinkedIn üzerinden yaptığı paylaşımların şirketin hukuk birimi tarafından sildirildiği ve bu durumun ardından konuyu senatörlere ve düzenleyici kurumlara taşıdığı aktarıldı.

Microsoft sözcüsü konuya ilişkin yaptığı açıklamada, şirketin çalışanlarının endişelerini politika ve prosedürler çerçevesinde ele aldığını ve teknolojinin güvenliğini artırmaya yönelik test çalışmalarını takdir ettiklerini belirtti. Ancak mühendisin iddia ettiği spesifik içerik üretim hatalarının teknik kapsamı ve sistemin bu tür çıktıları hangi sıklıkla ürettiği konusunda bağımsız bir doğrulama raporu henüz kamuoyuyla paylaşılmadı.