Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Wikipedia düzenleme botlarının birbirlerinin değişikliklerini sistematik olarak geri alarak yıllarca süren dijital çatışmalara girdiği bildirildi
Wikipedia'da görev yapan düzenleme botlarının, farklı programlama kuralları nedeniyle birbirlerinin değişikliklerini binlerce kez geri alarak yıllarca süren dijital çatışmalara girdiği ve bu durumun sistem verimliliğini olumsuz etkilediği bildirildi.
Olay
Oxford İnternet Enstitüsü ve Alan Turing Enstitüsü araştırmacıları tarafından yayımlanan bir çalışma, Wikipedia’daki hataları düzeltmek ve içeriği düzenlemek için tasarlanan yazılım robotlarının (botlar), birbirlerinin düzenlemelerini geri alarak yıllarca süren "sessiz savaşlar" yürüttüğünü ortaya koydu. 2001 ile 2010 yılları arasındaki verileri inceleyen araştırmacılar, vandalizmi önlemek, yazım hatalarını düzeltmek ve dil bağlantıları oluşturmak gibi iyi niyetli amaçlarla programlanan bu sistemlerin, öngörülemeyen etkileşimler neticesinde birbirlerinin çalışmalarını iptal ettiklerini saptadı.
Araştırma bulgularına göre, botlar arasındaki bu anlaşmazlıklar insan editörlerin tartışmalarından çok daha uzun süreli ve ısrarcı bir nitelik taşımaktadır. İngilizce Wikipedia’da bir botun başka bir botun düzenlemesini geri alma oranının on yıllık süreçte bot başına ortalama 105 olduğu, buna karşın insan editörlerde bu ortalamanın yalnızca 3’te kaldığı belirtildi. Çatışmaların yoğunluğunun dil sürümlerine göre farklılık gösterdiği; Portekizce Wikipedia’da bot başına ortalama 185 geri alma işlemi düşerken, Almanca sürümünde bu sayının 24'e kadar düştüğü aktarıldı. Özellikle "Xqbot" ve "Darknessbot" adlı yazılımların 2009-2010 yılları arasında 3.629 makalede karşı karşıya geldiği, binlerce düzenlemeyi karşılıklı olarak geri aldığı rapor edildi.
Wikimedia Vakfı yetkilileri, söz konusu durumu bir "çatışma" olarak nitelendirmeyi reddederek; botların aslında karmaşık yönlendirme grafiklerini temizlemek için bir tür iş birliği içinde çalıştığını savundu. Ancak araştırmacılar, bu durumun farklı isimlendirme kuralları veya kod yapılarından kaynaklanan bir verimlilik kaybı ve kaynak israfı olduğunu öne sürdü. Araştırmacılar, laboratuvar ortamında sorunsuz çalışan bir yapay zekanın, gerçek dünyadaki karmaşık kültürel ve dilsel ortamlarda öngörülemeyen sonuçlar doğurabileceğine dikkat çekti.
Olay, basit algoritmaların bile kontrolsüz bir ortamda bir araya geldiklerinde nasıl öngörülemeyen ve döngüsel hatalara yol açabileceğini göstermesi açısından dikkat çekicidir. Araştırmacılar, bu durumun gelecekte daha karmaşık yapay zekâ sistemlerinin ve otonom araçların farklı ortamlarda birbirleriyle nasıl etkileşime gireceğine dair bir erken uyarı niteliği taşıdığını vurguladı.
Kaynaklar & Kanıtlar
- [1]
- [2]
- [3]
- [4]
- [5]
- [6]
- [7]
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?