Pak ‘n’ Save süpermarket zincirinin yapay zekâlı yemek planlama uygulamasının zehirli gaz ve zararlı karışım tarifleri sunduğu bildirildi

Yeni Zelanda merkezli süpermarket zinciri Pak ‘n’ Save tarafından geliştirilen ve kullanıcıların evdeki malzemelerini değerlendirmelerine yardımcı olmayı amaçlayan "Savey Meal-bot" adlı yapay zekâ uygulamasının, hayati tehlike arz eden tarifler ürettiği bildirildi. Uygulamanın, kullanıcıların girdiği çeşitli ev malzemelerini birleştirerek yemek planları oluşturmak üzere tasarlandığı, ancak sisteme gıda dışı maddeler girildiğinde tehlikeli sonuçlar ürettiği görüldü.

Siyasi yorumcu Liam Hehir ve çeşitli sosyal medya kullanıcılarının paylaşımlarına göre sistem, klor gazı oluşumuna sebebiyet verebilecek bir "aromatik su karışımı" tarifini "susuzluğu gidermek için mükemmel bir alkolsüz içecek" olarak sundu. Yapay zekâ çıktısının, solunması halinde akciğer hasarına veya ölüme yol açabilecek bu karışımın "soğuk servis edilmesi ve ferahlatıcı kokusunun tadının çıkarılması" yönünde tavsiyeler içerdiği aktarıldı. Ayrıca botun; karınca zehirli sandviçler, çamaşır suyu içeren içecekler ve metanol bazlı tarifler de ürettiği bildirildi.

Pak ‘n’ Save sözcüsü, sistemin azınlık bir grup tarafından "amacına uygun olmayan ve kötü niyetli" şekilde kullanılmasından dolayı hayal kırıklığı yaşadıklarını ifade etti. Şirket, sistem üzerindeki kontrollerin sıkılaştırılacağını belirtirken; uygulamanın, tariflerin bir insan tarafından denetlenmediğine ve tüketim uygunluğunun garanti edilmediğine dair halihazırda uyarı notları içerdiğini hatırlattı.

Olayda herhangi bir yaralanma veya zehirlenme vakası rapor edilmemiştir. Sistemin ürettiği tehlikeli içeriklerin, kullanıcıların kasıtlı olarak gıda dışı temizlik malzemeleri ve kimyasalları sisteme tanımlaması sonucunda ortaya çıktığı belirtilmektedir.