Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Hollanda’da bir belediyenin konut değerleme algoritmasının çalışma mekanizmasını açıklayamamasının hukuki tartışmalara yol açtığı bildirildi
Amsterdam İstinaf Mahkemesi, Castricum Belediyesinin mekanizmasını açıklayamadığı bir algoritma ile belirlediği konut değerini, sonuç piyasa koşullarına uygun olduğu gerekçesiyle onarken, açıklanabilirlik eksikliği nedeniyle belediyeyi yargılama giderlerine mahkûm etti.
Olay
Hollanda’nın Castricum belediyesinde, bir konutun vergiye esas değerinin (WOZ değeri) belirlenmesinde kullanılan algoritmanın çalışma prensiplerinin belediye yetkilileri tarafından açıklanamadığı bildirildi. 2016 yılındaki değerleme sürecinde, bir mülk sahibi 320.000 Euro olarak belirlenen konut değerine, 1997 yılında bölgede gerçekleşen bir depremin neden olduğu hasarların yeterince dikkate alınmadığı gerekçesiyle itiraz ederek konuyu yargıya taşıdı. Belediye yetkililerinin hasar tespiti için mülkü ziyaret etme yönündeki dokuz ayrı teklifinin mülk sahibi tarafından reddedildiği belirtildi.
Amsterdam İstinaf Mahkemesi’nde görülen davada, belediyenin otomatik bir kararın dayandığı ayrıntıları ve mekanizmaları sunamamasının, Hollanda yasaları ve Genel Veri Koruma Yönetmeliği (GDPR) uyarınca bir hukuk ihlali olduğu tespit edildi. Mahkemenin, bu şeffaflık eksikliği nedeniyle belediyeyi yargılama giderlerini ödemeye mahkûm ettiği; ancak söz konusu değerleme sonucunu çevre mülklerin satış bedelleriyle uyumlu bularak kararı iptal etmediği aktarıldı.
Radboud Üniversitesi’nden Dr. Marlies van Eck, mahkemenin bu yaklaşımının "kara kutu" algoritmaların sonuçları "makul" göründüğü sürece hukuken kabul edilebileceğine dair riskli bir emsal oluşturabileceğini değerlendirdi. Uzman, açıklanabilirlik ilkesinin karşılanmamasının normal şartlarda kararın iptalini gerektirmesi gerektiğini, ancak bu davada ihlalin somut bir hukuki yaptırıma dönüşmediğini belirtti.
Olayda kullanılan algoritmanın teknik detayları veya hangi şirket tarafından geliştirildiği kamuya açıklanmadığı için sistemin çalışma prensipleri bağımsız olarak bütünüyle doğrulanamamıştır. Mahkeme kararı, algoritmanın ürettiği sonucun doğruluğuna odaklanırken, sistemin karar verme sürecindeki şeffaflık eksikliğini bir usul hatası olarak kaydetmiştir.
Kaynaklar & Kanıtlar
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?