Kurumsal yapay zekâ asistanlarının hatalı ve güncel olmayan bilgiler sunduğu, veri yönetimi eksikliklerinin sistem güvenilirliğini olumsuz etkilediği bildirildi

Microsoft 365 Copilot ve Google Workspace için Gemini gibi kurumsal üretken yapay zekâ asistanlarının, büyük şirketlerdeki test süreçlerinde beklentileri karşılamakta zorlandığı ve çeşitli hatalı çıktılar ürettiği bildirildi. Juniper Networks, Cargill ve Eli Lilly gibi farklı sektörlerden dev şirketlerin bilişim yöneticileri (CIO), bu araçlardan tam verim almak için öngörülenden çok daha fazla dahili veri düzenleme çalışması gerektiğini ifade etti.

Juniper Networks CIO’su Sharon Mandell, sistemin 2024 yılına dair verilerle ilgili bir soruya 2023 yılı verilerine dayanarak yanıt verebildiğini; Cargill yetkilileri ise sistemin şirketin yönetim ekibinde kimlerin yer aldığına dair basit bir soruyu doğru yanıtlayamadığını aktardı. Benzer şekilde ilaç firması Eli Lilly’nin dijital yöneticisi Diogo Rau, yapay zekâ aracının harcama politikaları hakkında yanlış bilgiler verdiğini belirtti. Hitachi Americas yetkilileri de veri setlerindeki mükerrer veya tutarsız kayıtların, yapay zekâ çıktılarında kafa karıştırıcı ve çelişkili bilgilere yol açtığını bildirdi.

Microsoft ve Google yetkilileri, yaşanan aksaklıkların temel nedeninin kurumsal verilerin her zaman güncel olmaması ve sistemlerin henüz olgunlaşma aşamasında bulunması olduğunu kabul etmektedir. Microsoft Kurumsal Başkan Yardımcısı Jared Spataro, Copilot’un bazen resmi finansal kayıtlar yerine e-postalardaki rakamları kaynak olarak seçebildiğini, bu sorunu aşmak için kullanıcıların sistemi yetkili veri kaynaklarına yönlendirmesini sağlayan Copilot Studio aracını sunduklarını belirtti. Google Cloud Baş Evangelisti Richard Seroter ise veri yönetimi düzenli olmayan şirketlerde yapay zekânın daha az değerli olacağını vurguladı.

Olayda sistemlerin tamamen işlevsiz olduğu iddia edilmemekte; ancak bu araçların kurumsal veri temizliği ve doğru komut (prompt) yapılandırması yapılmadan kullanıldığında yanıltıcı sonuçlar doğurabildiği vurgulanmaktadır. Juniper Networks gibi bazı şirketlerin, bu zorluklar nedeniyle sistemleri henüz tam ölçekli üretime geçirmeye hazır hissetmedikleri aktarılmaktadır.