Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Parkville Lisesi’nde yapay zekâ güvenlik sisteminin hatalı silah ihbarı yapması sonucu öğrencilerin güvenli alana alındığı bildirildi
Omnilert yapay zekâ güvenlik sisteminin Parkville Lisesi'nde yaptığı hatalı silah ihbarı nedeniyle öğrencilerin okul içinde güvenli bir alana nakledilerek polisin arama yaptığı, ancak herhangi bir tehdit bulunamadığı bildirildi.
Olay
Maryland eyaletindeki Parkville Lisesi’nde, Omnilert adlı yapay zekâ tabanlı güvenlik sisteminin olası bir silah tespit ettiğine dair uyarı verdiği bildirildi. İhbarın ardından olay yerine gelen Baltimore County polis ekiplerinin, tedbir amaçlı olarak öğrencileri okul içinde güvenli bir alana naklettiği ve mülk genelinde kapsamlı bir arama başlattığı aktarıldı.
Baltimore County Polis Departmanı, yapılan incelemeler sonucunda herhangi bir tehdit unsuruna rastlanmadığını ve okulda güvenliğin sağlandığını açıkladı. Okul müdürü Maureen Astarita, ailelere gönderdiği bilgilendirme mesajında, arama süresince öğrencilerin gözetim altında tutulduğunu ve operasyonun tamamlanmasının ardından normal okul faaliyetlerine geri dönüldüğünü belirtti.
Söz konusu olayın, bölgedeki bir başka okul olan Kenwood Lisesi’nde yaşanan benzer bir teknik hatadan kısa süre sonra gerçekleştiği vurgulandı. Ekim ayında yaşanan önceki vakada, aynı sistemin bir öğrencinin taşıdığı cips paketini silah olarak yanlış sınıflandırdığı ve öğrencilerin polis tarafından kelepçelenmesine yol açan bir müdahaleye sebebiyet verdiği hatırlatıldı.
Baltimore County Kamu Okulları (BCPS) yetkilileri, Omnilert sisteminin yalnızca potansiyel tehditleri işaretlemek üzere tasarlandığını ve sistem çıktılarının müdahale öncesinde mutlaka insan operatörler tarafından doğrulanması gerektiğini belirtti. Yaşanan hatalı alarmların ardından okul yönetimi, protokollerin uygulanması konusunda personel için yıllık eğitimlerin artırılacağını taahhüt etti.
Kaynaklar & Kanıtlar
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?