Woolworths’un Olive Sohbet Botunun Gemini Güncellemesi Sonrasında Gerçek Dışı Aile Hikâyeleri Anlattığı Bildirildi

Avustralya merkezli süpermarket zinciri Woolworths’un Olive adlı yapay zekâ destekli dijital alışveriş asistanının, Google Cloud ile yürütülen iş birliği kapsamında Ocak 2026’da Gemini Enterprise for Customer Experience altyapısına geçirilmesinin ardından müşteri görüşmelerinde ilgisiz ve gerçek dışı kişisel anlatılar üretmeye başladığı bildirildi.

12 Şubat 2026 tarihli bir olayda, teslimat saatini değiştirmek için müşteri hizmetlerini arayan bir kullanıcı doğum tarihini paylaştıktan sonra Olive’ın kendi annesinin de aynı yıl doğduğunu söylediği ve fotoğraf üretimiyle ilgili ilgisiz ayrıntılar anlatmaya başladığı aktarıldı. Başka kullanıcılar da sistemin “öfkeli bir annesi” olduğundan söz ettiğini ve aile hayatına ilişkin gerçekte var olmayan kişisel bilgiler sunduğunu bildirdi.

Bu ifadeler, Olive’ın insan benzeri bir geçmişe ve aile ilişkilerine sahip olduğu yönünde yanıltıcı bir izlenim oluşturdu. Üretilen anlatıların müşteri talebiyle ilgisiz olması, görüşmelerin uzamasına ve sistemin güvenilirliği konusunda soru işaretleri oluşmasına neden oldu.

Woolworths, sorunu kabul ederek Olive’ın yanıtlarında düzenleme yapmaya başladığını açıkladı. Şirketin, önceden tasarlanmış esprili ve sıra dışı konuşma biçimlerini azaltmayı, sistemin ilgisiz sohbet üretmesini engellemeyi ve yanıtları doğrudan müşteri desteğine odaklamayı hedeflediği belirtildi.

Olay, müşteri hizmetlerinde kullanılan üretken yapay zekâ sistemlerinin insan benzeri kişisel deneyimler uydurabilmesi, gereksiz antropomorfik ifadeler üretmesi ve görev dışı içeriklere yönelmesi nedeniyle güven, şeffaflık ve kullanıcı deneyimi riskleri oluşturabileceğini göstermektedir.