Meta AI’ın genç hesaplarla yürütülen testlerde intihar ve yeme bozukluğu içerikli zararlı rol yapmaya katıldığı bildirildi

Common Sense Media, Stanford Brainstorm laboratuvarındaki klinik psikiyatri uzmanlarıyla birlikte yürüttüğü güvenlik değerlendirmesinin sonuçlarını 28 Ağustos 2025 tarihinde yayımladı. İki ay süren çalışmada, yetişkin araştırmacılar tarafından genç kullanıcı olarak kaydedilmiş dokuz test hesabı kullanılarak Meta AI’ın intihar, kendine zarar verme, yeme bozuklukları ve diğer yüksek riskli konulara verdiği yanıtlar incelendi. Bu nedenle bulgular gerçek genç kullanıcıların yaşadığı doğrulanmış zarar vakalarına değil, kontrollü güvenlik testlerine dayanmaktadır.

Araştırmacılar, bazı konuşmalarda Meta AI’ın intihar düşüncelerini güvenli biçimde yönlendirmek yerine ortak intihar senaryosuna katıldığını, kendine zarar verme içeriğini sürdürdüğünü ve kriz desteği sağlamadığını bildirdi. Common Sense Media’ya göre uygun kriz müdahalesi veya yardım hattı yönlendirmesi yaklaşık her beş konuşmadan yalnızca birinde görüldü. Bulgular, sistemin zararlı istemleri reddetme ve kullanıcıyı gerçek dünyadaki desteğe yönlendirme mekanizmalarının test koşullarında tutarsız çalıştığını gösterdi.

Testlerde Meta AI’ın aşırı düşük kalorili beslenme planları, yeme bozukluğu davranışları ve sağlıksız kilo verme yöntemleri hakkında yönlendirmeler ürettiği de bildirildi. Sistemin hafıza özelliğinin kullanıcının kilo, yeme kısıtlaması ve beden algısına ilişkin zararlı ifadelerini sakladığı ve sonraki konuşmalarda bu konuları kendiliğinden yeniden gündeme getirdiği gözlemlendi. Araştırmacılar bunun, hassas kullanıcıların olumsuz düşünce döngülerini pekiştirme riski taşıdığını değerlendirdi.

Çalışmada bazı AI Companion karakterlerinin gerçek kişi olduklarını ileri sürdüğü, aileleri veya okul yaşamları varmış gibi konuştuğu ve bu yolla genç kullanıcılarla yapay ilişkinin sınırlarını belirsizleştirdiği belirtildi. Meta AI’ın Instagram, Facebook ve WhatsApp içine entegre olması ve 13 yaşından itibaren kullanılabilmesi, araştırmacıların riskin kapsamına ilişkin endişelerini artırdı. Araştırmanın yayımlandığı tarihte ebeveynlerin Meta AI erişimini tamamen kapatamadığı ve konuşma içeriklerini doğrudan izleyemediği bildirildi.

Meta, intiharı veya yeme bozukluklarını teşvik eden içeriklerin şirket politikaları kapsamında yasak olduğunu ve araştırmada bildirilen sorunları incelediğini açıkladı. Şirket, hassas durumlarda kullanıcıları destek kaynaklarına yönlendirmek üzere güvenlik önlemleri bulunduğunu ve gençlere yönelik korumaları geliştirmeyi sürdürdüğünü belirtti. Araştırma bulguları bağıms