Yapay zekâ tarafından işaretlenen şiddet içeriklerine rağmen kolluk kuvvetlerinin bilgilendirilmemesi, erken müdahale ve sorumluluk tartışmalarını gündeme getirmiştir.

Haziran ayında Jesse Van Rootselaar, birkaç gün boyunca ChatGPT üzerinden silahlı şiddet senaryolarını detaylandıran içerikler paylaştı. Bu içerikler otomatik inceleme sistemi tarafından işaretlendi ve OpenAI bünyesinde yaklaşık bir düzine çalışanın dikkatini çekti. Şirket içinde, Kanada’daki kolluk kuvvetlerine haber verilip verilmemesi konusunda tartışmalar yaşandı. Bazı çalışanlar, yazılanların gerçek dünyada şiddet ihtimaline işaret ettiğini düşünerek yetkililerle iletişime geçilmesini savundu.

Ancak OpenAI, bu durumun “ciddi fiziksel zarara yönelik inandırıcı ve yakın bir tehdit” kriterlerini karşılamadığına karar vererek kolluk kuvvetlerine bildirimde bulunmadı. Bunun yerine Van Rootselaar’ın hesabı kapatıldı.

10 Şubat’ta Van Rootselaar, British Columbia’nın Tumbler Ridge bölgesindeki bir okulda silahlı saldırı gerçekleştirdi. Saldırıda 8 kişi hayatını kaybetti, en az 25 kişi yaralandı. Saldırganın olay yerinde, muhtemelen kendine zarar vererek hayatını kaybettiği bildirildi. 18 yaşındaki bireyin daha önce ruh sağlığıyla ilgili nedenlerle yerel polis tarafından bilindiği ifade edildi.

Olayın ardından OpenAI, saldırıyı öğrendikten sonra RCMP ile iletişime geçtiğini ve soruşturmaya destek verdiğini açıkladı.