Taco Bell’in sesli yapay zekâ sipariş sistemi, 18.000 bardak su talep edilen şaka sırasında insan müdahalesine ihtiyaç duydu

Taco Bell’in ABD’deki araçtan sipariş noktalarında kullandığı sesli yapay zekâ sistemi, müşterilerin olağan dışı talepler ve şakalarla sistemi sınadığı videoların sosyal medyada yayılması üzerine gündeme geldi. Viral görüntülerden birinde müşteri, yapay zekâ aracılığıyla 18.000 bardak su sipariş etmeye çalıştı. Sistem işlemi tamamlayamayınca sipariş görüşmesine bir restoran çalışanının müdahale ettiği görüldü. Mevcut kaynaklar sistemin teknik olarak tamamen çöktüğünü kesin biçimde doğrulamadığından olay, olağan dışı talebin otomatik sipariş sürecini kesintiye uğratması şeklinde değerlendirilmelidir.

Başka bir videoda sistem, müşterinin büyük boy Mountain Dew sipariş etmiş olmasına rağmen içecek tercihini tekrar tekrar sordu. Sosyal medyada geniş ölçekte izlenen bu örnekler, sistemin konuşma bağlamını sürdürme, mantıksız siparişleri sınırlandırma ve gerektiğinde görüşmeyi hızlı biçimde çalışana aktarma yeteneklerine ilişkin eleştirilere yol açtı.

Taco Bell, sesli yapay zekâ teknolojisini 2025 yılı itibarıyla ABD’de 500’den fazla araçtan sipariş noktasında kullanıyordu. Şirketin yöneticileri sistemin iki milyondan fazla siparişi işlediğini bildirdi; ancak bu sayı bağımsız bir performans denetiminin sonucu olarak açıklanmadı. Taco Bell Dijital ve Teknoloji Direktörü Dane Mathews, teknolojinin bazı koşullarda beklenen performansı göstermediğini ve şirketin yapay zekânın hangi restoranlarda ve hangi saatlerde kullanılmasının uygun olduğunu değerlendirdiğini söyledi.

Şirket yapay zekâ kullanımını tamamen durdurduğunu açıklamadı. Bunun yerine yoğun restoranlarda insan çalışanların siparişleri izlemesi, gerektiğinde görüşmeyi devralması ve sistemin kullanımının işletme koşullarına göre belirlenmesi gibi karma bir yaklaşım üzerinde çalışıldığı bildirildi. Bu nedenle olay, Taco Bell’in yapay zekâ dağıtımını sona erdirmesinden çok, insan gözetimini ve müdahale kurallarını yeniden değerlendirmesine yol açan bir sistem dayanıklılığı ve müşteri etkileşimi vakasıdır.