Yapay zekâ tabanlı işe alım sistemindeki sınıflandırma hatası, deneyimsiz personelin yetersiz eğitim süreçlerine yönlendirilmesine neden olmuştur.

Amerika Birleşik Devletleri Göçmenlik ve Gümrük Muhafaza Biriminin (ICE), geniş çaplı personel alımı sırasında başvuruları sınıflandırmak amacıyla kullandığı yapay zekâ destekli bir öz geçmiş tarama aracının bazı adayların kolluk kuvveti deneyimini yanlış değerlendirdiği bildirildi. Araç, öz geçmişlerinde “officer” sözcüğü bulunan bazı kişileri, görevlerinin niteliğini bağlamsal olarak incelemeden deneyimli kolluk personeli olarak sınıflandırdı. Bu kapsamda uyum görevlileri ile gelecekte ICE görevlisi olmayı hedeflediğini belirten adayların da deneyimli kabul edildiği öne sürüldü.

Önceden kolluk deneyimi bulunan adaylar için dört haftalık çevrim içi eğitimden oluşan hızlandırılmış program uygulanırken, bu deneyime sahip olmayanların Georgia’daki Federal Kolluk Kuvvetleri Eğitim Merkezinde sekiz haftalık yüz yüze eğitime katılması gerekiyordu. Yanlış sınıflandırma nedeniyle yaklaşık 200 adayın kısa programa yönlendirildiği ve bazılarının gerekli tam eğitimi almadan saha birimlerine gönderildiği iddia edildi. Etkilenen kişilerin fiilen kolluk faaliyeti yürütüp yürütmediğine ilişkin kaynaklarda farklı değerlendirmeler bulunmaktadır.

Hatanın, personel alım sürecinin başlamasından bir aydan uzun süre sonra, 2025 sonbaharında fark edildiği bildirildi. ICE bunun üzerine öz geçmişleri insan personel aracılığıyla yeniden incelemeye başladı ve yanlış programa yönlendirilen adayları tam eğitim almaları için eğitim merkezine sevk etti. İç Güvenlik Bakanlığı sözcüsü olayı “teknolojik bir aksaklık” olarak nitelendirdi ve uygun yeterlilikleri bulunmayan hiçbir kişinin kolluk görevine yerleştirilmediğini savundu.

Kamuya açık kaynaklarda kullanılan yapay zekâ aracının üreticisi, modeli ve teknik mimarisi açıklanmadı. Olay, öz geçmişlerdeki tekil anahtar sözcüklere dayalı otomatik sınıflandırmanın, yüksek riskli kamu personeli alımlarında yetersiz insan denetimiyle birlikte yanlış eğitim ve görevlendirme kararlarına yol açabileceğini gösteren bir sistem hatası olarak bildirildi.