Meta platformlarında üretken yapay zekâ ile oluşturulan yanıltıcı içeriklerin ve spam paylaşımların yaygınlaştığı bildirildi

Meta bünyesindeki Facebook ve Threads ile iş dünyasına yönelik LinkedIn gibi platformlarda, üretken yapay zekâ araçlarıyla oluşturulan "spam" içeriklerin ve yanıltıcı görsellerin sayısında belirgin bir artış yaşandığı bildirilmektedir. Kullanıcıların, platform algoritmaları tarafından ana sayfalarına taşınan ve gerçek dışı unsurlar barındıran (sebzelerden oluşan İsa figürleri, sahte el sanatları veya duygusal istismara yönelik kurgulanmış görseller) içeriklerle sıklıkla karşılaştığı aktarılmaktadır. Bu görsellerin bir kısmının binlerce etkileşim aldığı ve birçok kullanıcının bu içeriklerin yapay zekâ üretimi olduğunu fark edemeyerek gerçekmiş gibi tepki verdiği gözlemlenmiştir.

Georgetown ve Stanford üniversitelerinden araştırmacıların yürüttüğü ve henüz hakem onayından geçmemiş bir çalışmada, 100’den fazla Facebook sayfasının günde onlarca kez yapay zekâ üretimi içerik paylaştığı tespit edilmiştir. İncelemede, bu sayfaların bir kısmının kullanıcıları reklam yüklü internet sitelerine yönlendirdiği, bir kısmının ise gerçekte var olmayan ürünlerin reklamını yaparak dolandırıcılık faaliyetlerinde bulunduğu iddia edilmektedir. Bazı sayfaların ise belirgin bir finansal motivasyon göstermeksizin, ileride siyasi manipülasyon veya farklı amaçlarla kullanılmak üzere geniş takipçi kitleleri topladığı değerlendirilmektedir.

Meta CEO’su Mark Zuckerberg’in yatırımcılarla paylaştığı bilgilere göre, kullanıcı akışlarının yaklaşık %30’unu algoritmik öneriler oluşturmaktadır. Bu durumun, yüksek etkileşim alan yapay zekâ içeriklerinin algoritmalarca daha fazla kişiye ulaştırılmasına ve bir "etkileşim döngüsü" oluşmasına katkıda bulunduğu öne sürülmektedir. Meta sözcüsü, platformdaki spam ve sansasyonel içeriklerin yayılımını azaltmak için çalıştıklarını ve yapay zekâ ile oluşturulan içerikleri etiketleme yönünde hazırlıkları olduğunu belirtmiştir. Ancak bazı kullanıcılar, bu içeriklerin gerçeklik algısını zayıflatması ve platform deneyimini olumsuz etkilemesi nedeniyle hizmeti kullanmayı bırakmayı düşündüklerini ifade etmektedir.