Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
ChatGPT'nin kullanıcıları Soundslice'ın var olmayan bir özelliği hakkında yanılttığı, şirketin bunun üzerine bu özelliği geliştirdiği bildirildi
ChatGPT'nin, kullanıcılara Soundslice'ın sahip olmadığı bir ASCII tablatür içe aktarma özelliğini var olduğu şeklinde yanlış bilgi verdiği ve şirketin bunun üzerine bu özelliği fiilen geliştirdiği bildirildi.
Olay
Nota dijitalleştirme hizmeti Soundslice'ın kurucu ortağı Adrian Holovaty, şirketin hata günlüklerinde alışılmadık bir yükleme deseni fark etti. Kullanıcılar, geleneksel nota fotoğrafları yerine ChatGPT sohbet ekranlarının görüntülerini yüklüyordu; bu ekran görüntülerinde gitar için basit bir metin gösterim biçimi olan ASCII tablatür bulunuyordu.
Holovaty, haftalarca süren araştırmanın ardından ChatGPT'yi kendisi denediğinde durumu anladı: Yapay zekâ sohbet botu, kullanıcılara Soundslice'a gidip hesap oluşturmalarını ve sesli çalma özelliğini duymak için ASCII tablatür içe aktarmalarını söylüyordu. Ancak Soundslice böyle bir özelliğe hiçbir zaman sahip olmamıştı; ChatGPT kullanıcılara yanlış bilgi vermiş ve şirketin hizmeti hakkında karşılanamayan beklentiler yaratmıştı.
Soundslice, bu durum karşısında ürün kararı almak zorunda kaldı ve sonunda pazar talebini karşılamaya karar vererek özel bir ASCII tablatür içe aktarma aracı geliştirdi; arayüz metnini de bu yeni özelliği açıklayacak şekilde güncelledi. Holovaty, bunun bir şirketin ChatGPT'nin yanlışlıkla var olduğunu iddia ettiği bir özelliği geliştirdiği bilinen ilk vaka olduğunu belirtti.
Kaynaklar & Kanıtlar
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?