Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Arizona’da gönderilmeyen tehdit içerikli şaka metninin Gaggle tarafından işaretlenmesi öğrencinin uzaklaştırılmasına yol açtı
Arizona’da bir öğrencinin evinde okul bilgisayarına yazıp göndermeden sildiği saldırı içerikli şaka Gaggle tarafından yetkililere bildirilmiş, öğrenci uzaklaştırılmış ve ailesi kararın anayasal hakları ihlal ettiği iddiasıyla okul bölgesine dava açmıştır.
Olay
Arizona’daki Marana High School’da öğrenim gören bir öğrenci, evinde ve annesinin gözetimindeyken okul tarafından verilen dizüstü bilgisayardan öğretmenine notuyla ilgili bir e-posta hazırladı. Dava dilekçesine göre öğrenci, mesajı oluştururken okulda silahlı saldırı düzenleyeceğini belirten uygunsuz bir şaka yazdı; annesinin uyarısı üzerine ifadeyi sildi ve e-postayı göndermedi. Olayın 14 Ağustos 2025’te gerçekleştiğine ilişkin ilk kayıt doğru görünmemektedir; bu tarih davanın haberleştirildiği tarihtir. Mahkeme kayıtları olayın 9 Ekim 2024’te meydana geldiğini göstermektedir.
Okul cihazındaki etkinliği izleyen Gaggle sistemi, gönderilmemiş taslaktaki ifadeyi tespit ederek ekran görüntüsünü okul yetkililerine iletti. Yaklaşık bir saat içinde okul müdürü ve okul kaynak görevlisi aileyle iletişime geçti. Anne, öğrencinin ifadeyi şaka amacıyla yazdığını, metnin gönderilmediğini ve gerçek bir saldırı niyetinin bulunmadığını bildirdi.
Öğrenci, “tehdit veya yıldırma” gerekçesiyle başlangıçta 10 gün süreyle okuldan uzaklaştırıldı ve hakkında 45 güne kadar uzun süreli uzaklaştırma önerildi. Sonraki süreçte 45 günlük yaptırımın, öğrencinin danışmanlık görüşmelerine katılması hâlinde azaltılabileceği belirtildi. Kamuya açık kayıtlara göre öğrenci fiilen 11 gün uzaklaştırma aldı ve iki danışmanlık görüşmesini tamamladı; yaptırım daha sonra dokuz güne indirilmiş olsa da öğrenci bu süreden daha uzun süre okuldan uzak kalmıştı.
Öğrencinin ailesi, 16 Temmuz 2025’te Marana Unified School District ve ilgili görevliler aleyhine federal dava açtı. Dilekçede, okul dışında ve aile gözetiminde yazılan, gönderilmeyen ve güvenilir bir tehdit oluşturmadığı savunulan ifadenin cezalandırılmasının öğrencinin ifade özgürlüğü ve usule ilişkin anayasal haklarını ihlal ettiği öne sürüldü. Dava devam ettiğinden bu iddialar kesinleşmiş yargı kararı olarak değerlendirilmemelidir.
Olayda yapay zekâ sistemi tehdit içeriğini üretmemiş, okul cihazındaki yazılı etkinliği otomatik olarak izleyip bildiren bir gözetim aracı olarak kullanılmıştır. Vaka, öğrenci güvenliği amacıyla kullanılan izleme sistemlerinin bağlamı, niyeti, mesajın gönderilip gönderilmediğini ve okul dışındaki konuşmaların hukuki statüsünü ne ölçüde değerlendirebildiğine ilişkin tartışmalara yol açmıştır.
Kaynaklar & Kanıtlar
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?