Meta’nın bilimsel araştırma odaklı Galactica modelinin hatalı ve yanıltıcı içerik ürettiği gerekçesiyle yayından kaldırıldığı bildirildi

Meta AI, 15 Kasım 2022 tarihinde bilimsel bilgileri potansiyel olarak depolamak, birleştirmek ve bu bilgiler üzerine akıl yürütmek amacıyla tasarlanan Galactica adlı büyük dil modelinin (LLM) tanıtımını yapmıştır. Yaklaşık 48 milyon akademik makale, ders notu, sözlük ve bilimsel internet sitesinden oluşan bir veri kümesiyle eğitilen sistemin; makale özetleme, matematik problemi çözme ve bilimsel kod yazma gibi süreçleri kolaylaştırabileceği öne sürülmüştür. Ancak sistemin halka açık deneme sürümü, bilim topluluğundan gelen yoğun teknik ve etik eleştirilerin ardından üç gün içinde erişime kapatılmıştır.

Kullanıcılar ve araştırmacılar, Galactica’nın bilimsel bir otorite tonuyla tamamen uydurma ve hatalı bilgiler üretebildiğini raporlamıştır. Sistemin "ezilmiş cam yemenin faydaları" gibi tehlikeli konularda sahte wiki maddeleri yazdığı, gerçek bilim insanlarına ait olmayan sahte akademik atıflar oluşturduğu ve "uzaydaki ayıların tarihi" gibi kurgusal içerikleri bilimsel gerçekmiş gibi sunduğu gözlemlenmiştir. Max Planck Akıllı Sistemler Enstitüsü Direktörü Michael Black, sistemin ürettiği bilgilerin yanlış veya yanlı olmasına rağmen "ikna edici ve otoriter" bir dille sunulmasının yanıltıcı ve tehlikeli olduğunu belirtmiştir.

Sisteme uygulanan güvenlik filtrelerinin de tartışmalı olduğu görülmüştür; filtrelerin "ırkçılık" veya "AIDS" gibi temel bilimsel ve sosyal konularda içerik üretilmesini engelleyerek azınlık grupları ve ilgili bilimsel alanları marjinalleştirdiği eleştirisi yapılmıştır. Meta’nın Baş Yapay Zekâ Bilimcisi Yann LeCun, sistemin "eğlence amaçlı kötüye kullanıldığını" savunarak eleştirilere tepki göstermiştir. Buna karşın, Washington Üniversitesi'nden Chirag Shah gibi uzmanlar, dil modellerinin kelime dizileri arasındaki istatistiksel ilişkileri takip ettiğini ve aslında gerçeklik ile kurguyu ayırt etme yetisine sahip olmadığını vurgulamıştır.

Meta, gelen geri bildirimler doğrultusunda demoyu durdurduğunu ve modelin araştırmacıların kullanımına açık kalacağını duyurmuştur. Olay, büyük dil modellerinin bilimsel doğruluk gerektiren alanlarda arama motorlarının yerini alıp alamayacağı üzerine tartışmaları derinleştirmiştir.