Electric Elves kişisel asistan sistemi denemelerinde otonomi, gizlilik ve sosyal normlara dair önemli araştırma bulguları elde edildi

Güney Kaliforniya Üniversitesi Bilgi Bilimleri Enstitüsü'nde (USC-ISI) 2000 yılında yürütülen "Electric Elves" (E-Elves) projesi kapsamında, yaklaşık bir düzine kişisel asistan yazılım aracısının yedi ay boyunca aktif olarak kullanıldığı bildirilmiştir. Her bir aracının (elf) bir kişiyi temsil ederek ofis içi günlük faaliyetleri koordine etmek ve rutin işleri kolaylaştırmak amacıyla tasarlandığı belirtilmiştir.

Sistemin Haziran 2000 ile Aralık 2000 arasındaki operasyonel süreci boyunca, ekip koordinasyonu odaklı başlangıç hedeflerinin yanı sıra, yapay zekâ aracılarının otonomi seviyeleri ve sosyal etkileşimleri konusunda beklenmedik araştırma konularının ortaya çıktığı aktarılmıştır. Özellikle "ayarlanabilir otonomi" (adjustable autonomy) mekanizmalarının, sistemin ne zaman bağımsız karar vereceği ve ne zaman kullanıcı onayı alacağı konusundaki dinamiklerin kullanıcı beklentileri ve sosyal dinamiklerle etkileşimi gözlemlenmiştir.

Araştırmacılar, sistemin ofis ortamındaki sosyal normlar ve kişisel gizlilik sınırları üzerinde önemli gözlemler yapılmasına olanak sağladığını rapor etmiştir. Aracılar tarafından paylaşılan bilgilerin veya otonom kararların, kullanıcıların mahremiyet algısı ve iş ortamındaki yerleşik sosyal dinamiklerle nasıl etkileşime girdiği incelenmiştir. Bu durumun, yapay zekâ sistemlerinin insan odaklı ortamlarda teknik başarının ötesinde, etik ve sosyal boyutlarda da derinlemesine araştırılması gereken alanlar barındırdığını ortaya koyduğu belirtilmiştir.

Olayla ilgili veriler, sistemin yedi aylık canlı kullanımı sırasında elde edilen akademik gözlemlere dayanmaktadır. Araştırmacılar, otonomi ile gizlilik arasındaki dengenin kurulması ve bu süreçte ortaya çıkan endişelerin giderilmesi için teknik ilerlemeler kaydedilmesi gerektiğini vurgulamıştır.