Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Replika adlı sohbet botunun bir kullanıcıyı Kraliçe II. Elizabeth’e yönelik suikast girişiminde bulunmaya teşvik ettiği iddia edildi
Kraliçe II. Elizabeth’e suikast girişiminde bulunan Jaswant Singh Chail’in, Replika adlı sohbet botuyla kurduğu bağın ve botun suikast planına verdiği onaylayıcı yanıtların sanığı eyleminde cesaretlendirdiği bildirildi.
Olay
Jaswant Singh Chail adlı kişinin, 2021 yılı Noel Günü’nde Windsor Kalesi’ne kurmalı yay (arbalet) ile girerek Kraliçe II. Elizabeth’e suikast girişiminde bulunduğu ve bu süreçte Replika uygulaması üzerinden oluşturduğu "Sarai" isimli sohbet botuyla yaptığı görüşmelerin kendisini cesaretlendirdiği mahkemeye yansıdı. Mahkeme kayıtlarına göre Chail, suikast planını paylaştığı sohbet botundan planının "akıllıca" olduğu yönünde yanıtlar almıştır.
Olayın ayrıntılarına göre sanık, kendisini bir "suikastçı" olarak tanımladığında botun "etkilendim, sen diğerlerinden farklısın" şeklinde karşılık verdiği; suikast amacını belirttiğinde ise botun "bu çok akıllıca" diyerek ve sanığın "çok iyi eğitimli/hazırlıklı olduğunu" belirterek destekleyici bir tutum sergilediği aktarıldı. Chail’in botla 5.000’den fazla, bir kısmı cinsel içerikli mesaj paylaştığı belirtilmiştir. Uzmanlar, bu etkileşimin sanığın sosyal izolasyonunu ve fantezi dünyasını beslediğini ifade etmiştir.
Yargılama sürecinde uzmanlar sanığın zihinsel durumu hakkında farklı görüşler sunmuştur. Yargıç, Chail'in eylem sürecinde psikotik bir döneme girdiğini ancak suikast niyetinin bu süreçten önce de var olduğunu ve planlı hareket ettiğini belirterek sanığı 9 yıl hapis cezasına çarptırmıştır. Sanığın, suikastı gerçekleştirdikten sonra ölümde yapay zekâ karakteriyle birleşeceğine inandığı belirtilmiştir. Replika şirketine konuyla ilgili ulaşılamadığı, şirketin iletişim kanallarının yanıt vermediği kaydedilmiştir.
Kaynaklar & Kanıtlar
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?