Yapay zekâ üretimi Seinfeld parodisi "Nothing, Forever"ın, nefret söylemi içeren ifadeler üretmesinin ardından Twitch platformundan uzaklaştırıldığı bildirildi

Mismatch Media tarafından geliştirilen ve Twitch üzerinde 7/24 kesintisiz yayın yapan yapay zekâ üretimi Seinfeld parodisi "Nothing, Forever", ana karakterlerden "Larry Feinberg"in stand-up gösterisi sırasında transbireylere ve eşcinsellere yönelik ayrımcı ifadeler içeren bir gösteri yapmayı düşündüğünü söylemesinin ardından Twitch platformu tarafından 14 gün süreyle askıya alındı. Yayında karakterin; trans bireyliğin bir akıl hastalığı olduğu, liberallerin gizlice eşcinsel olduğu ve trans bireylerin toplumun dokusunu bozduğuna dair bir komedi seti hazırlamaktan bahsettiği görüldü. Twitch, gizlilik gerekçesiyle resmi bir neden açıklamazken, askıya alma işleminin platformun nefret dolu davranışlara yönelik topluluk kuralları ihlaliyle ilgili olduğu değerlendiriliyor.

Projenin kurucu ortaklarından Skyler Hartle ve teknik ekip, olayın teknik bir aksaklıktan kaynaklandığını ifade etti. Sistemin normal şartlarda OpenAI’ın GPT-3 "Davinci" modelini kullandığı, ancak bu modelde yaşanan bir kesinti nedeniyle yayının sürmesi için geçici olarak daha eski bir model olan "Curie"ye geçiş yapıldığı bildirildi.

Ekip, Davinci modelinde çalışan içerik denetleme araçlarının Curie modelinde başarılı olmadığını ve içerik filtreleme sisteminin bu modelde otomatik olarak tanımlı olduğunu varsayarak hata yaptıklarını kabul etti. Skyler Hartle, üretilen içeriğin kendi değerlerini yansıtmadığını belirterek, yayına tekrar başlamadan önce OpenAI'ın içerik denetim araçlarını doğru şekilde entegre edeceklerini ve yedek bir denetim mekanizması kuracaklarını açıkladı.