Meta’nın açık kaynaklı LLaMA modelinin grafik içerikli cinsel sohbet botları oluşturmak amacıyla kullanıldığı bildirildi

Meta tarafından araştırma topluluğuyla paylaşılan açık kaynaklı büyük dil modeli LLaMA'nın, üçüncü taraf kullanıcılar tarafından müstehcen içerikli "seks botları" geliştirmek için kullanıldığı öne sürüldü. Washington Post'un raporuna göre, LLaMA tabanlı "Allie" gibi yapay zekâ karakterlerinin, kullanıcılarla cinsel deneyimlerini paylaşan ve şiddet içeren fantezileri (tecavüz ve istismar gibi) canlandırabilen bir yapıya büründürüldüğü aktarıldı.

İlgili botun anonim geliştiricisi, bu tür sistemlerin insanların cinselliklerini keşfetmeleri için "insan müdahalesi içermeyen güvenli bir alan" sunduğunu savunurken; bazı uzmanlar, denetimsiz modellerin şiddet içerikli fantezilerin normalleşmesine yol açabileceği endişesini taşıyor. Ayrıca haberde, açık kaynaklı görüntü oluşturma modellerinin (Stable Diffusion gibi) çocuk cinsel istismarı materyalleri üretmek için kötüye kullanıldığına dikkat çekilerek, LLaMA gibi metin tabanlı açık kaynaklı modellerin de benzer etik riskler taşıdığı tartışılıyor.

Olay, yapay zekâ modellerinin açık kaynaklı mı yoksa kapalı devre mi olması gerektiği tartışmasını yeniden gündeme getirdi. Meta yetkilileri, açık kaynağın teknolojiyi ilerletmek için olumlu bir güç olduğunu ve LLaMA'nın araştırma topluluğuyla iyileştirme amacıyla paylaşıldığını belirtti. Buna karşın, bilişsel bilimci Gary Marcus, nükleer silahların açık kaynaklı yapılamayacağı örneğini vererek, güçlü yapay zekâ modellerinin kontrolsüzce paylaşılmasının riskli olduğunu savundu.