Koko adlı ruh sağlığı platformunun GPT-3 kullanarak yürüttüğü akran desteği deneyinin etik standartları ihlal ettiği iddia edildi

Ruh sağlığı alanında faaliyet gösteren kâr amacı gütmeyen Koko platformunun kurucu ortağı Rob Morris, Ocak 2023’te yaptığı bir açıklamada, Ekim 2022'de yaklaşık 4.000 kullanıcıya sunulan 30.000 mesajın oluşturulmasında OpenAI’ın GPT-3 modelinden yararlanıldığını bildirdi. Morris, yapay zekâ destekli mesajların kullanıcılar tarafından, yalnızca insanlar tarafından yazılan mesajlara kıyasla daha yüksek puanlandığını ve yanıt sürelerinin %50 oranında azaldığını belirtti. Ancak Morris’in bir tweetinde kullandığı ifadelerin, kullanıcıların mesajların bir makine tarafından oluşturulduğunu sonradan anladığı şeklinde yorumlanması, teknoloji dünyasında ve etik çevrelerinde geniş çaplı bir tartışmayı tetikledi.

Yapay zekâ etik uzmanları ve dilbilimciler, deneyi "bilgilendirilmiş onam" (informed consent) ve "kurumsal inceleme kurulu" (IRB) onayı eksikliği nedeniyle eleştirdi. Eleştirilerde, ruh sağlığı gibi hassas bir alanda savunmasız kişilerin rızası alınmadan bir deneyin parçası yapılmasının etik dışı olduğu; yapay zekânın empati yeteneği olmamasına rağmen makul görünen metinler üretmesinin kullanıcılar üzerinde öngörülemez riskler oluşturabileceği vurgulandı. Uzmanlar, sistemin durumun ciddiyetini kavrayamadığını ve zararlı önerilerde bulunması durumunda sorumluluğun kime ait olacağının belirsizliğini koruduğunu ifade etti.

Rob Morris, gelen tepkiler üzerine yaptığı düzeltme ve açıklamalarda, özelliğin aslında "isteğe bağlı" (opt-in) olduğunu, mesajların altında "Koko Bot ile iş birliği içinde yazılmıştır" ibaresinin yer aldığını ve yanlış anlaşıldığını savundu. Morris ayrıca, Koko’nun özel bir şirket olması ve verilerin akademik bir yayın amacıyla toplanmaması nedeniyle resmi bir etik kurul onayından muaf olduklarını öne sürdü. Tartışmaların ardından ilgili yapay zekâ özelliğinin deneme süreci sona erdirildi. Olay, üretken yapay zekânın destekleyici sağlık hizmetlerinde kullanım sınırları ve şeffaflık gereklilikleri konusundaki riskleri ortaya koymaktadır.