Washington Eyalet Piyangosu’nun yapay zekâ destekli tanıtım sitesinin bir kullanıcının fotoğrafını müstehcen içerikli bir görsele dönüştürdüğü iddia edildi

Washington Eyalet Piyangosu (Washington’s Lottery) tarafından kullanıma sunulan "Test Drive a Win" adlı yapay zekâ destekli web uygulamasının, bir kullanıcının yüklediği fotoğrafı müstehcen bir görsele dönüştürdüğü öne sürüldü. 50 yaşındaki Megan isimli kullanıcının aktardığına göre, sistemin hayalindeki tatili görselleştirmesi amacıyla yüklediği fotoğrafı, kendisini üstsüz bir şekilde gösteren "yumuşak pornografi" niteliğinde bir çıktı üretti. Söz konusu görselde kullanıcının yüzünün, bir akvaryum yatak odası temasında üstsüz bir vücuda yerleştirildiği ve görselin sağ alt köşesinde kurumun resmi logosunun bulunduğu bildirildi.

Olayın kamuoyuna yansımasının ardından Washington Eyalet Piyangosu, söz konusu internet sitesini "ihtiyatlılık gereği" erişime kapattı. Kurum sözcüsü, sistemin geliştiricileriyle birlikte görsellerdeki kişilerin tamamen giyinik olması gibi katı parametreler belirlendiğini, ancak sistemin bu kurallara uymayan bir çıktı ürettiğine dair rapor aldıklarını doğruladı. Sözcü, sitenin bir aydan uzun süredir yayında olduğunu ve binlerce sorunsuz görsel ürettiğini; ancak bildirilen bu tek vakanın bile sitenin kapatılması için yeterli görüldüğünü belirtti.

Kurum yetkilileri, bahsi geçen müstehcen görseli bizzat görmediklerini ve olayın bir kullanıcının beyanına dayandığını özellikle vurguladı. Geliştiricilerin sistem ayarlarını kontrol ettiği ve parametrelerin uygun olduğu sonucuna varıldığı, ancak benzer bir durumun tekrarlanmaması adına uygulamanın erişime kapatılmasına karar verildiği bildirildi. Sistemin hangi yapay zekâ modelini kullandığı veya yerleşik güvenlik filtrelerinin neden başarısız olduğu konusunda ayrıntılı bir teknik açıklama yapılmadı.