Meta’nın yapay zekâ destekli çıkartma aracının uygunsuz ve müstehcen içerikler ürettiği bildirildi

Meta’nın Eylül 2023’te duyurduğu ve Llama 2 büyük dil modelini kullanan yeni yapay zekâ destekli çıkartma aracının, erken erişim aşamasındaki bazı kullanıcılar tarafından uygunsuz ve etik dışı içerikler üretmek amacıyla kullanılabildiği rapor edildi. Sosyal medya platformu X üzerinden paylaşılan örneklerde, sistemin çocuk askerler, silahlı popüler kültür karakterleri ve Kanada Başbakanı Justin Trudeau’nun müstehcen tasvirlerini içeren görseller oluşturduğu görüldü.

Kullanıcı bildirimlerine göre, sistemin filtreleme mekanizmalarının belirli hassas anahtar kelimeleri engellemesine rağmen, yazım hataları veya dolaylı betimlemeler yoluyla bu kısıtlamaların aşılabildiği öne sürüldü. Bazı durumlarda, "Dünya Ticaret Merkezi" gibi doğrudan müstehcenlik veya şiddet içermeyen komutların dahi sistem tarafından sorunlu görsellere dönüştürüldüğü aktarıldı. Ayrıca aracın, çeşitli tarihi figürleri ve animasyon karakterlerini içeren müstehcen görselleri kullanıcı komutları doğrultusunda oluşturabildiği paylaşılan örnekler arasında yer aldı.

Meta, söz konusu özelliğin topluluk kurallarını ihlal edebilecek içeriklere karşı uyarılar barındırdığını belirtti. Özelliğin kademeli olarak kullanıma sunulmasının, şirketin sistemdeki hataları ve istismar potansiyelini geniş kitlelere yayılmadan önce tespit edip düzeltmesine olanak tanımak amacıyla yapıldığı değerlendirilmektedir. Olayın etkisi, özelliğin henüz sınırlı bir kullanıcı grubuna açık olması nedeniyle platformun tamamı için bütünüyle değerlendirilememektedir.