Metodoloji

RiskYZ'nin vaka kayıt, sınıflandırma ve inceleme süreci; şeffaf ve tekrarlanabilir bir yapıya dayanır.

RISKYZ Kimlik Sistemi

Her onaylanan vaka, kalıcı ve benzersiz bir RISKYZ kimliği alır. Format şu şekildedir:

RISKYZ-2026-00891

PrefixYılSıra no.

RISKYZ kimlikleri kalıcıdır: onaylanan bir vaka silinmez, yalnızca güncellenebilir. Bu yapı akademik yayınlarda güvenle atıf yapılmasını sağlar. Her vaka sayfası APA, BibTeX, OSCOLA ve Bluebook formatında hazır atıf bilgisi sunar.

Olay Tarihi Neyi Gösterir?

Vaka sayfalarındaki olay tarihi, zararın başladığı anı gösterir; haberin yayımlandığı, davanın açıldığı ya da raporun çıktığı tarihi değil. Kaynak havuzu olarak kullandığımız AI Incident Database ile aynı ölçüt benimsenmiştir.

Bu ayrım bazı vakalarda gözle görülür bir aralık yaratır. Örneğin bir dil modelinin eğitim verisiyle ilgili dava yıllar sonra açılmış olabilir; kayıt verinin toplandığı yıla tarihlenir, metin ise davayı anlatır. Aynı şekilde bir taşeronluk düzeninin sorunları, sözleşmenin başladığı yıla tarihlenir; sorunu ortaya çıkaran gazetecilik çalışması sonraki yıla ait olabilir.

Atıf yaparken: vakanın kimliğindeki yıl olayın başlangıcını belirtir. Belirli bir habere, rapora ya da mahkeme kararına atıf yapacaksanız vaka sayfasındaki kaynak listesini kullanın; her kaynağın kendi tarihi orada yazılıdır.

Risk Taksonomisi

RiskYZ, yapay zekâ risklerini 7 ana alan ve 24 alt alandan oluşan hiyerarşik bir sınıflandırma sistemiyle belgeler.

1Ayrımcılık ve Zararlı İçerik3 alt alan

1.1

Adaletsiz ayrımcılık ve yanlış temsil

Yapay zekâ tarafından birey veya gruplara, çoğunlukla ırk, cinsiyet veya diğer hassas özelliklere dayalı olarak eşitsiz muamele edilmesi; bu durumun adaletsiz sonuçlara ve yanlış temsillere yol açması.

1.2

Zararlı içeriğe maruz kalma

Yapay zekânın kullanıcıyı zararlı, istismar edici, güvensiz veya uygunsuz içerikle karşılaştırması. İçeriği ÜRETMESİ, betimlemesi, tavsiye vermesi ya da EYLEME TEŞVİK ETMESİ bu kapsamdadır. Örnekler: nefret söylemi, şiddet, aşırıcılık, yasa dışı eylemler, çocuk istismarı materyali; ayrıca küfür, kışkırtıcı siyasi söylem veya pornografi gibi topluluk kurallarını ihlal eden içerik.

1.3

Gruplar arası eşitsiz performans

Yapay zekâ kararlarının doğruluğu ve etkinliğinin grup üyeliğine bağlı olması; tasarım ve önyargılı veri setleri nedeniyle eşitsiz sonuçlar yaratması.

2Gizlilik ve Güvenlik2 alt alan

2.1

Hassas bilgilerin ihlali

Yapay zekânın hassas kişisel veriyi ezberleyip sızdırması ya da bireyler hakkında rızası olmadan özel bilgi ÇIKARIMI yapması. Beklenmedik veya izinsiz paylaşım gizlilik beklentisini zedeler, kimlik hırsızlığını kolaylaştırabilir ya da GİZLİ FİKRİ MÜLKİYETİN KAYBINA yol açabilir.

2.2

Yapay zekâ sistem güvenlik açıkları ve saldırılar

Yapay zekâ sistemlerinde, yazılım geliştirme süreçlerinde veya donanımda bulunan ve kötüye kullanılabilen açıklar.

3Yanlış Bilgi2 alt alan

3.1

Yanlış veya yanıltıcı bilgi

Yapay zekânın yanlış ya da aldatıcı bilgi üretmesi veya yayması; kullanıcıda hatalı inanç oluşturup özerkliğini zedelemesi. Yanlış inanca dayanarak karar veren kişi fiziksel, duygusal ya da maddi zarar görebilir.

3.2

Bilgi ekosisteminin bozulması ve ortak gerçekliğin kaybı

Kişiselleştirilmiş yanlış bilgi üretimi ile toplumsal uzlaşının ve ortak gerçeklik algısının zayıflaması.

4Kötü Niyetli Aktörler ve Kötüye Kullanım3 alt alan

4.1

Ölçeklenmiş dezenformasyon, gözetim ve etki operasyonları

Yapay zekânın GENİŞ ÖLÇEKLİ dezenformasyon kampanyaları, kötü niyetli gözetim ya da hedefli ve karmaşık otomatik sansür/propaganda için kullanılması; amaç siyasi süreçleri, kamuoyunu ve davranışı yönlendirmektir.

4.2

Siber saldırılar, silah geliştirme ve kitlesel zarar

Yapay zekânın siber saldırı araçları geliştirmek veya kitlesel zarar oluşturmak amacıyla kullanılması.

4.3

Dolandırıcılık, sahtekârlık ve hedefli manipülasyon

Yapay zekâ ile başkaları karşısında kişisel çıkar sağlanması: kopya çekme, dolandırıcılık, sahtekârlık, ŞANTAJ ya da inanç ve davranışın hedefli manipülasyonu. Örnekler: araştırma veya eğitimde yapay zekâ destekli intihal, meşru olmayan maddi çıkar için güvenilen ya da sahte bir kimliğe bürünme, AŞAĞILAYICI VEYA CİNSEL İÇERİKLİ GÖRSEL ÜRETİMİ.

5İnsan-Bilgisayar Etkileşimi2 alt alan

5.1

Aşırı güven ve güvensiz kullanım

Kullanıcının yapay zekâya insan gibi davranması, güvenmesi ya da bağımlı hâle gelmesi; duygusal veya maddi bağımlılık ve sistemle uygunsuz ilişki ya da beklenti geliştirmesi. Bu güven kötü niyetli aktörlerce sömürülebilir; kritik durumlarda (örneğin tıbbi acil) uygunsuz kullanım zarara yol açabilir. Aşırı güven özerkliği zedeler ve toplumsal bağları zayıflatır.

5.2

İnsan ajansının ve özerkliğinin kaybı

Kararların yapay zekâya devredilmesi veya insan kontrolünün azalması.

6Sosyoekonomik ve Çevresel Zararlar6 alt alan

6.1

Güç yoğunlaşması ve faydanın adaletsiz dağılımı

Yapay zekâ ile güç ve kaynakların belirli gruplarda toplanması; eşitsizliğin artması.

6.2

Artan eşitsizlik ve istihdam kalitesinin düşmesi

Otomasyon ve yapay zekâ kullanımı nedeniyle iş gücü piyasasında eşitsizliklerin artması.

6.3

İnsan emeğinin ekonomik ve kültürel değersizleşmesi

Ekonomik veya kültürel değer üretebilen yapay zekânın, insan yaratıcılığını ve yenilikçiliğini (SANAT, MÜZİK, YAZI, KOD, BULUŞ) yeniden üreterek insan emeğine dayanan ekonomik ve toplumsal düzenleri sarsması. Sonuçları: insan becerisinin değer kaybetmesi, yaratıcı ve bilgi temelli sektörlerin sarsılması, yapay zekâ üretimi içeriğin yaygınlaşmasıyla kültürel deneyimin tekdüzeleşmesi.

6.4

Rekabet dinamikleri

Yapay zekâ yarışında hızlı ve riskli geliştirme süreçleri; güvenli olmayan sistemlerin yayılması.

6.5

Yönetişim başarısızlığı

Düzenleyici mekanizmaların yetersiz kalması ve risklerin yönetilememesi.

6.6

Çevresel zarar

Yapay zekâ sistemlerinin enerji tüketimi ve donanım üretimi nedeniyle çevreye verdiği zarar.

7Yapay Zekâ Sistem Güvenliği, Hatalar ve Sınırlamalar6 alt alan

7.1

İnsan değerleriyle çatışan hedefler

Yapay zekânın insan hedefleri, değerleri ya da etik ölçütlerle çatışan biçimde davranması. Bu uyumsuzluk tasarım sırasında insan eliyle girebilir (ödül hilesi, hedefin yanlış genellenmesi) ya da sistemin manipülasyon, aldatma ve durumsal farkındalık gibi tehlikeli yetenekleri güç elde etmek veya kendini çoğaltmak için kullanmasından doğabilir.

7.2

Tehlikeli yeteneklere sahip yapay zekâ

Yapay zekânın zarar verme potansiyelini artıran yetenekler geliştirmesi.

7.3

Yetersiz kapasite veya dayanıklılık

Yapay zekânın değişen koşullarda güvenilir ya da etkili çalışamaması; hata ve arızalara açık olması. Sonuçları özellikle kritik uygulamalarda ve ahlaki muhakeme gerektiren alanlarda ağırdır.

7.4

Şeffaflık ve açıklanabilirlik eksikliği

Karar süreçlerinin anlaşılmaması; güven ve hesap verebilirlik sorunları yaratması.

7.5

Yapay zekâ refahı ve hakları

Gelişmiş yapay zekâların potansiyel hakları ve etik statüsü üzerine tartışmalar.

7.6

Çoklu ajan riskleri

Birden fazla yapay zekâ sisteminin etkileşimi sonucu ortaya çıkan karmaşık riskler.

Sınıflandırma Eksenleri

Her vaka risk alanına ek olarak üç eksende sınıflandırılır. Bu sınıflandırma bildirim sahibinden talep edilmez; kaynağı vakadan vakaya değişir ve aşağıda açıklanmıştır.

Kaynak (Entity)

Yapay Zekâ

Bir yapay zekâ sisteminin kararı veya eylemi nedeniyle

İnsan

İnsan kararı veya eylemi nedeniyle

Diğer / Belirsiz

Başka bir nedenle veya belirsiz

Niyet (Intent)

Kasıtlı

Hedeflenen bir sonuçtan kaynaklanan beklenen çıktı

Kasıtsız

Hedeflenen bir sonuçtan kaynaklanan beklenmedik çıktı

Belirsiz

Niyetin açıkça belirtilmediği durum

Zamanlama (Timing)

Dağıtım Öncesi

Yapay zekâ dağıtılmadan önce gerçekleşen

Dağıtım Sonrası

Model eğitildikten ve dağıtıldıktan sonra gerçekleşen

Belirsiz

Zamanın açıkça belirtilmediği durum

Sınıflandırmayı Kim Yapıyor?

Bir vakanın risk etiketi üç kaynaktan birinden gelir. Hangisi olduğu her vaka için kayıtlıdır, çünkü etiketin kimden geldiği onun ne kadar bağlayıcı olduğunu belirler.

MIT AI Risk Repository

Vaka AI Incident Database kaydından türetildiyse ve orada MIT taksonomisine göre verilmiş bir etiket varsa, o etiket birebir taşınır. Kendi başımıza değiştirmeyiz: değiştirmek, vakanın sınıflandırmasını MIT'teki karşılığıyla karşılaştırılabilir olmaktan çıkarır. Vakaların büyük çoğunluğu bu gruptadır.

Editör

Kaynakta etiket yoksa veya editör mevcut etiketi bilerek değiştirdiyse, sınıflandırmayı editör verir. Sapma istisnadır ve gerekçesi kayda geçirilir.

Öneri sistemi

AI Incident Database'e olay girişi, MIT sınıflandırmasının önünde gidiyor: yeni kayıtların bir bölümünde henüz etiket yok. Bu vakaları kataloğa almak için sınıflandırmayı kendi öneri sistemimiz yapar. Sistem, benzer vakaların MIT etiketlerini örnek alarak karar verir. İsabeti, MIT etiketli 150 vaka üzerinde birini-dışarıda-bırak yöntemiyle ölçtük: alt alanda %87, ana alanda %87 (%95 güven aralığı %81–%92). Bu etiketler geçicidir: MIT ilgili olayı sonradan sınıflandırırsa iki etiket karşılaştırılır ve kararı editör ekibi verir; MIT'inki otomatik olarak üzerine yazılmaz. Farklı kalınan durumlarda gerekçe kayda geçer.

Neden ayırıyoruz? Öneri sistemi, yeni bir vakayı sınıflandırırken korpustaki mevcut vakaları örnek alır. Kendi verdiği etiketler de örnek havuzuna girseydi, sistem zamanla kendi hatalarını doğrulamaya başlardı. Bu yüzden yalnızca kaynağı MIT olan ve editör kararıyla verilen etiketler örnek havuzuna alınır.

Vaka İnceleme Süreci

Alım ve Ön Değerlendirme

Bildirilen vaka sisteme alınır. Editör ekibi talebi konu, ciddiyet ve bilgi yeterliliği açısından inceler.

Kaynak Doğrulama

Sunulan kanıtlar doğrulanır. Gazetecilik ilkeleri doğrultusunda, tek bir kaynağa dayanan vakalar çapraz kaynakla desteklenir.

Sınıflandırma

Editör vakayı risk alanı ve alt alanına yerleştirir; kaynak, niyet ve zamanlama eksenlerini belirler.

Yayınlama

Onaylanan vakaya kalıcı RISKYZ kimliği atanır ve kütüphaneye eklenir. Reddedilen vakalar için gerekçe kayıt altına alınır.

Kabul Kriterleri

Bir vakanın yayınlanabilmesi için aşağıdaki koşulları karşılaması beklenir:

✓Yapay zekâ sistemi kaynaklı veya buna bağlı bir olay

✓En az bir doğrulanabilir kanıt veya güvenilir tanıklık

✓Gerçek veya potansiyel olumsuz etki mevcut

✓Gözlemlenebilir ve somut bir olay (spekülatif değil)

✗Yalnızca ürün eleştirisi veya kullanıcı memnuniyetsizliği

✗Üçüncü taraf kötüye kullanımı (yapay zekâ sistem hatası değil)

Açık Veri Politikası

RiskYZ vaka kütüphanesi Creative Commons BY-SA 4.0 lisansı altında yayınlanmaktadır. Vakalar akademik çalışmalarda, politika belgelerinde ve araştırmalarda kaynak gösterilerek serbestçe kullanılabilir. ShareAlike koşulu gereği, vakalardan türetilen eserler de aynı lisansla paylaşılmalıdır.

Kütüphaneye programatik erişim için API dokümantasyonuna başvurabilirsiniz.