Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Vanderbilt Üniversitesi’nin silahlı saldırı taziye mesajında ChatGPT kullanmasının tepki çektiği ve idari soruşturmaya yol açtığı bildirildi
Vanderbilt Üniversitesi’nin bir silahlı saldırı sonrası yayımladığı taziye mesajını ChatGPT kullanarak hazırlaması, metindeki maddi hatalar ve empati eksikliği nedeniyle öğrenci tepkisine, kurumsal özre ve idari açığa alınmalara yol açtı.
Olay
Vanderbilt Üniversitesi’ne bağlı Peabody Koleji Eşitlik, Çeşitlilik ve Kapsayıcılık Ofisi’nin (EDI), 16 Şubat 2023 tarihinde Michigan Eyalet Üniversitesi’nde (MSU) meydana gelen ve üç öğrencinin ölümüyle sonuçlanan silahlı saldırıya ilişkin yayımladığı taziye e-postasını ChatGPT kullanarak hazırladığı bildirildi. Mesajın alt kısmında küçük puntolarla metnin OpenAI’ın ChatGPT dil modelinden yararlanılarak oluşturulduğuna dair bir ibarenin yer alması, öğrenci topluluğu ve kamuoyunda geniş çaplı tepkilere neden oldu.
Söz konusu e-postanın, topluluk ve beraberlik vurgusu yapmasına rağmen "robotik" ve "duygusuz" bir tonda olduğu; ayrıca Vanderbilt Üniversitesi’ne özgü destek kaynaklarına yer vermediği öne sürüldü. Metinde, gerçekleşen tek bir olay yerine "yakın zamandaki Michigan saldırıları" ifadesinin kullanılması gibi maddi hataların bulunduğu saptandı. Öğrenciler, trajik bir olay sonrası empati ve insani bağ kurulması gereken bir iletişimde yapay zekâ kullanılmasını "etik dışı" ve "saygısızca" olarak nitelendirdi.
Olayın ardından Peabody Koleji Dekan Yardımcısı Nicole Joseph, taziye mesajı için yapay zekâ kullanımının "hatalı bir muhakeme" olduğunu kabul ederek özür diledi. Dekan Camilla Benbow ise mesajın üniversitenin standart inceleme protokollerinden geçmeden yayımlandığını, kendisinin ve üst yönetimin durumdan haberdar olmadığını açıkladı. Süreçle ilgili idari inceleme başlatıldığı; mesajda imzası bulunan dekan yardımcısı ve dekan yardımcısı asistanının inceleme tamamlanana kadar görevlerinden uzaklaştırıldığı aktarıldı.
Vanderbilt Üniversitesi yönetimi, yapay zekâ teknolojilerinin yükseköğretimdeki yerinin ve sınırlarının bu olay vesilesiyle yeniden değerlendirildiğini belirtti. Olay, kriz iletişimi ve etik sorumluluk gerektiren hassas durumlarda üretken yapay zekâ kullanımının kurumsal itibar ve kullanıcı güveni üzerindeki olumsuz etkilerini gösteren bir vaka olarak kayıtlara geçti.
Kaynaklar & Kanıtlar
- [1]
- [2]
- [3]
- [4]
- [5]
- [6]
- [7]
- [8]
- [9]
- [10]
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?