TikTok’ta yapay zekâ ile oluşturulan sahte doktor figürlerinin yanıltıcı tıbbi tavsiyeler yaydığı bildirildi

Sosyal medya platformu TikTok’ta, kendilerini tıbbi uzman olarak tanıtan ancak tamamen yapay zekâ tarafından oluşturulan dijital avatarların, bilimsel dayanağı olmayan sağlık tavsiyeleri paylaştığı tespit edildi. "Captions" adlı üretken yapay zekâ uygulaması kullanılarak oluşturulduğu belirtilen bu figürlerin, "13 yıllık doktor" gibi sahte unvanlarla jinekoloji, diyetisyenlik ve plastik cerrahi gibi alanlarda uzmanlık iddiasında bulunduğu bildirildi.

İncelemelerde, "Violet" gibi belirli yapay zekâ avatarlarının farklı hesaplarda hem hemşire hem de cerrah gibi çelişkili kimliklerle sunulduğu görüldü. Bu içeriklerin, bağırsak sağlığı için belirli tariflerin tüketilmesini önermenin yanı sıra, oğul otu (lemon balm) gibi bitkisel ürünleri diyabet ve kilo kontrolü ilacı Ozempic ile kıyaslayan yanıltıcı iddialar barındırdığı aktarıldı. Bir videonun yaklaşık 3 milyon izlenme aldığı ve binlerce kullanıcının bu sahte uzmanlardan tarif veya ürün bağlantısı talep ettiği gözlemlendi.

Güzellik sektörü içerik üreticisi Javon Ford, bu avatarların teknik kusurlarını (ses-görüntü senkronizasyonu bozukluğu) ifşa ederek kullanıcıları uyardı. Ford, Captions uygulamasının sunduğu hazır avatarların ve metinden konuşmaya (text-to-speech) araçlarının, herhangi bir tıbbi yetkinliği olmayan kişilerce manipülatif içerik üretmek amacıyla kullanıldığını gösterdi. Medya uzmanı Caleb Kruse ise benzer yapay zekâ araçlarıyla oluşturulan videolardaki doğal olmayan göz hareketleri ve duraksamalar gibi teknik detaylara dikkat çekti. Bu içeriklerin çoğunlukla izleyicileri Amazon mağazalarına veya ücretli bültenlere yönlendirerek ticari kazanç sağlamayı hedeflediği belirtilmektedir.

Olay, üretken yapay zekâ teknolojisinin sağlık dezenformasyonu amacıyla kullanımını ve dijital platformlardaki sahte içerik riskini ortaya koymaktadır. Captions uygulamasının ayda 3 milyondan fazla video üretimine aracılık ettiği bildirilmektedir.