Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
İngiltere'de devlet destekli AI4Peat haritalama aracının, granit mostralarını ve taş ocaklarını turba olarak yanlış sınıflandırdığı bildirildi.
İngiltere'de devlet destekli AI4Peat haritalama aracının, granit mostralarını ve taş ocaklarını hatalı biçimde turba olarak sınıflandırdığı bildirildi.
Olay
İngiltere'de Natural England tarafından uydu görüntüleri, hava fotoğrafları, LiDAR verileri ve makine öğrenmesi modelleri kullanılarak geliştirilen ve DEFRA destekli AI4Peat projesi kapsamında hazırlanan "England Peat Map" adlı haritalama aracının, granit kaya mostralarını, taş ocaklarını ve ağaçlık çit hatlarını bozulmuş veya calluna bataklığı turbası olarak yanlış işaretlediği bildirildi.
Uzmanların, yapay zekâ modellerinin arazi örtüsü ve topografya gibi dolaylı göstergelerden örüntü çıkarmaya dayandığını, ancak yeterli sahada doğrulama yapılmadan turbanın "olması beklenen" yerleri tahmin etmeye çalıştığını ve bunun yanlış pozitif sonuçlar doğurma riski taşıdığını **belirttiği** aktarıldı.
Olayın, kamu politikası ve çevresel restorasyon kararlarına temel oluşturan yapay zekâ tabanlı haritalama sistemlerinin, yeterli sahada doğrulama yapılmadan güvenilmez sınıflandırmalar üretebildiğini ve bunun yapay zekâ sistem güvenilirliği açısından risk oluşturduğunu gösterdiği değerlendirilmektedir.
Kaynaklar & Kanıtlar
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?