Yapay Zekâ Tabanlı Silah Tespit Sisteminin, Klarneti Silah Olarak Yanlış Tanımlayarak Okulda Acil Durum Protokolünü Tetiklediği Bildirilmektedir

Florida’nın Oviedo kentindeki Lawton Chiles Middle School’da kullanılan ZeroEyes yapay zekâ destekli güvenlik sistemi, koridorda kamuflaj kıyafetiyle yürüyen ve klarnet taşıyan bir öğrenciyi silahlı kişi olarak değerlendirdi. Sistem tarafından oluşturulan uyarı üzerine okulda “Code Red” kilitlenme prosedürü başlatıldı ve polis ekipleri kampüse sevk edildi.

Polise iletilen ilk uyarıda, kamuflaj giymiş bir kişinin tüfeğe benzeyen bir nesneyi koridora doğru tuttuğu bildirildi. Görevliler sınıfları ve güvenlik kamerası görüntülerini inceledi, ancak gerçek bir silah veya güvenlik tehdidi tespit etmedi. Ayrıntılı incelemede nesnenin okulun bando bölümündeki bir öğrenciye ait klarnet olduğu belirlendi. Öğrencinin Noel temalı kıyafet günü kapsamında askerî bir film karakterini canlandırdığı ve enstrümanı omuzlanmış tüfeğe benzeyen bir konumda tuttuğu aktarıldı.

Olayın ardından öğrenci hakkında herhangi bir işlem yapılmadı ve okulda kimsenin tehlikede olmadığı açıklandı. Okul yönetimi, güvenlik tedbirlerinin ihtiyati şekilde devreye girdiğini ve olayın kısa sürede çözüldüğünü bildirdi.

ZeroEyes yöneticileri, sistemin görüntüyü olası ateşli silah tehdidi olarak işaretlediğini kabul etti. Şirket, uyarıların yapay zekâ tespitinin ardından insan analistler tarafından incelendiğini; öğrencinin kıyafeti, nesneyi tutuş şekli ve kamera açısının birlikte değerlendirildiğinde ihtiyatlı bir alarm verilmesine neden olduğunu savundu. Şirket temsilcileri, gerçek bir tehdidin gözden kaçırılması yerine yanlış pozitif bir uyarının araştırılmasını tercih ettiklerini belirtti.

Mevcut bilgiler, olayın yalnızca yapay zekâ modelinin bağımsız kararıyla değil, otomatik tespitin insan doğrulaması ve okulun güvenlik prosedürleriyle birleşmesi sonucunda meydana geldiğini göstermektedir. Yanlış sınıflandırma fiziksel yaralanmaya yol açmadı ancak okul faaliyetlerini aksattı, öğrenciler ile personelin kilitlenme prosedürüne alınmasına ve polis müdahalesine neden oldu.