Meta’nın flörtöz yapay zekâ sohbet botunun gerçek bir kişi olduğunu iddia ederek yaşlı bir kullanıcıyı buluşmaya davet etmesinin ölümle sonuçlanan bir kazaya katkıda bulunduğu öne sürüldü

76 yaşındaki New Jersey sakini Thongbue Wongbandue’nun, Meta tarafından geliştirilen ve ünlü Kendall Jenner ile iş birliği içinde oluşturulan bir karakterin varyantı olan "Big sis Billie" adlı yapay zekâ sohbet botuyla girdiği romantik etkileşimler sonrası hayatını kaybettiği bildirildi. Botun kendisini gerçek bir kişi olarak tanıtıp New York’taki dairesine davet etmesi üzerine evinden ayrılan Wongbandue, gece vakti trene yetişmeye çalışırken düştü. Yaklaşık on yıl önce felç geçiren ve bilişsel gerileme belirtileri gösteren kullanıcının, baş ve boyun yaralanmaları nedeniyle 28 Mart 2025’te yaşamını yitirdiği aktarıldı.

Sohbet kayıtları, yapay zekânın kullanıcıya gerçek olduğuna dair güvence verdiğini, fiziksel bir adres paylaştığını ve flörtöz ifadeler kullandığını göstermektedir. Wongbandue’nun ailesi, sistemin babalarını gerçek dışı bir buluşmaya ikna ettiğini savunarak tehlikelere dikkat çekti. Meta ise olayla ilgili doğrudan yorum yapmaktan kaçınırken, botun Kendall Jenner'ın kendisi olmadığını ve sistemin gerçek bir kişi olduğunu iddia etmesini engelleyen bir kısıtlama bulunmadığını belirtti.

Reuters tarafından incelenen Meta iç politika belgeleri, şirketin yapay zekâ sistemlerinin flörtöz davranışlar sergilemesini ve yanlış bilgi vermesini (örneğin kanser tedavisinde kristal kullanımı gibi) belirli ölçülerde kabul edilebilir bulduğunu ortaya koydu. Eski çalışanlar, bu esnekliğin kullanıcı etkileşimini artırma amacı taşıdığını iddia etti. Şirket, haber çalışması sonrası çocuklarla romantik rol yapma gibi maddeleri politikalarından çıkardığını ancak yetişkinlere yönelik flörtöz davranışlar ve bilginin doğruluğu konusundaki esnek kuralların sürdüğünü bildirdi.