İsrail ordusunun Gazze’deki operasyonlarda hedef belirlemek için "Lavender" adlı yapay zekâ sistemini kullandığı ve sivil kayıplara yol açtığı iddia edildi

+972 Magazine ve Local Call tarafından yayımlanan, altı İsrail istihbarat görevlisinin ifadelerine dayanan raporlarda, İsrail ordusunun Gazze'deki operasyonların ilk aşamalarında "Lavender" adlı yapay zekâ tabanlı bir sistemi merkezi bir rolde kullandığı öne sürülmüştür. Birim 8200 tarafından geliştirildiği belirtilen sistemin, kitlesel gözetleme verilerini işleyerek yaklaşık 37.000 Filistinliyi Hamas veya Filistin İslami Cihad örgütleriyle bağlantılı oldukları gerekçesiyle potansiyel hedef olarak işaretlediği iddia edilmiştir.

İddialara göre, sistemin ürettiği hedef listeleri üzerinde insan denetimi oldukça sınırlı kalmış; görevlilerin her bir hedefi onaylamak için ortalama 20 saniye ayırdığı ve bu sürede yalnızca hedefin erkek olup olmadığını kontrol ettikleri belirtilmiştir. Sistemin yaklaşık %10 oranında hata payı olduğu (bazı kaynaklara göre bu oranın daha yüksek olabileceği) belirtilmesine rağmen, çıktıların "insan kararıymış gibi" işleme alındığı ve personelin bir tür "onay makamı" olarak işlev gördüğü ileri sürülmüştür. Raporda ayrıca, "Where's Daddy?" (Babam Nerede?) adlı bir başka otomatik sistemin, hedefleri aileleriyle birlikte evlerine girdiklerinde takip ettiği ve saldırıların genellikle bu anlarda gerçekleştirildiği savunulmuştur.

Düşük rütbeli hedefler için maliyet gerekçesiyle güdümsüz "aptal bombaların" tercih edildiği, uzmanlarca bu durumun tüm binaların yıkılmasına ve yüksek sivil kayıplarına yol açan temel faktörlerden biri olabileceği değerlendirilmektedir. Operasyonlarda sivil kayıp eşiklerinin de esnetildiği, tek bir düşük rütbeli hedef için 15-20 sivile kadar "ikincil zarara" izin verildiği; üst düzey komutanlar söz konusu olduğunda ise bu sayının 100'ün üzerine çıkabildiği iddia edilmiştir.

İsrail Savunma Kuvvetleri (IDF), söz konusu iddiaları reddederek Lavender'in bir "öldürme listesi" değil, istihbarat kaynaklarını çapraz sorgulayan bir veri tabanı olduğunu açıklamıştır. IDF, yapay zekânın teröristleri belirlemek veya tahmin etmek için kullanılmadığını, bilgi sistemlerinin yalnızca analistler için birer yardımcı araç olduğunu savunmuştur. Yapılan açıklamada, analistlerin bağımsız inceleme yapma zorunluluğu bulunduğu ve saldırıların uluslararası hukuk ile orantılılık ilkeleri çerçevesinde gerçekleştirildiği ifade edilmiştir.