Libya’da STM Kargu-2 otonom dron sisteminin insan müdahalesi olmaksızın hedeflere saldırdığı iddia edildi

Birleşmiş Milletler (BM) Libya Uzmanlar Paneli tarafından hazırlanan ve Mart 2021’de yayımlanan bir raporda, Mart 2020’de Libya’daki çatışmalar sırasında "ölümcül otonom silah sistemi" (LAWS) olarak nitelendirilen STM Kargu-2 dronlarının kullanılmış olabileceği bildirilmiştir. Raporda, General Halife Hafter’e bağlı güçlerin geri çekilmesi sırasında, bu sistemlerin operatörle herhangi bir veri bağlantısı gerektirmeden hedefleri "avladığı" ve otonom olarak angajman gerçekleştirdiği öne sürülmüştür.

Söz konusu sistemin "ateş et, unut ve bul" (fire, forget and find) kabiliyetine sahip olduğu, makine öğrenmesi ve gerçek zamanlı görüntü işleme teknolojilerini kullanarak hedefleri otonom olarak seçebildiği aktarılmıştır. Bununla birlikte, BM raporunda bu saldırıların herhangi bir can kaybına veya yaralanmaya yol açıp açmadığına dair kesin bir bilgiye yer verilmemiştir. Eğer doğrulanırsa, bu olayın yapay zekâ tabanlı bir silahın insan müdahalesi olmaksızın gerçekleştirdiği ilk savaş alanı saldırısı olabileceği değerlendirilmektedir.

Olayın ardından uzmanlar arasında sistemin otonomi düzeyi hakkında farklı görüşler dile getirilmiştir. Jack McDonald ve Ulrike Franke gibi isimler, dronun o sırada manuel modda mı yoksa tamamen otonom mu çalıştığının belirsizliğini koruduğunu; otonomi kavramının teknik olarak muğlak olduğunu belirtmiştir. Zachary Kallenborn ise yapay zekâ sistemlerinin sivil ile askeri unsurları ayırt edememe gibi "kırılganlık" riskleri taşıdığına dikkat çekmiştir. Üretici firma STM’nin ürün tanıtımlarında sistemin "minimum ikincil hasar" ile hassas vuruş kabiliyetine vurgu yaptığı görülmektedir.

BM, bağımsız uzmanlarca hazırlanan rapor hakkında resmi bir yorum yapmaktan kaçınmış; raporun yaptırımlar komitesine incelenmek üzere gönderildiğini bildirmiştir. Otonom silahların etik boyutuna ve uluslararası düzenleme ihtiyacına yönelik tartışmalar bu olayla birlikte yeniden gündeme gelmiştir.