Microsoft Copilot’un kurgusal vaka çalışması oluştururken gerçek bir cinsel taciz mağdurunun ismini ve bilgilerini kullandığı bildirildi

Avustralya’daki Bunbury Bölge Hapishanesi’nde düzenlenen bir psikososyal güvenlik eğitimi sırasında, Microsoft Copilot tarafından üretilen bir eğitim materyalinin, kurumda daha önce yaşanmış gerçek bir cinsel taciz vakasının mağduruna ait bilgileri içerdiği bildirildi. Eğitimi veren Charlotte Ingham, iş yerindeki tehlikelere yönelik kurgusal senaryolar oluşturmak için yapay zekâ sistemini kullandığını; ancak sistemin sunduğu senaryolardan birinde, o dönemde Adalet Bakanlığı’na karşı taciz ve zorbalık davası yürüten eski çalışan Bronwyn Hendry’nin tam adını kullandığını ifade etti.

Eğitim sırasında katılımcıların durumun kurgusal olmadığını fark etmesi üzerine ortaya çıkan olayda, mağdur Hendry, kendi deneyimlerinin bu şekilde kullanılmasının "tetikleyici" ve "çelişkili" olduğunu belirtti. Eğitmen Ingham, yapay zekânın gerçek kişilerin isimlerini kullanabileceğini öngöremediğini savunurken, Microsoft Copilot ile yaptığı geçmiş etkileşimlerin kayıtlarına erişemediğini bildirdi. Olayın ardından ABC tarafından yapılan bağımsız denemede, sistemin belirli bir bölge ve konu hakkında vaka çalışması üretmesi istendiğinde, kamuya açık kaynaklardaki gerçek isimleri ve dava detaylarını sunduğu, ancak aynı zamanda çıktının "tamamen kurgusal" olduğuna dair yanıltıcı bir ibare eklediği teyit edildi.

Microsoft sözcüsü, sistemin belirli bir duruma dayalı vaka çalışması oluşturulması istendiğinde arama sonuçlarında yer alan isim ve senaryoları dahil edebileceğini açıkladı. Adalet Bakanlığı ise eğitimin içeriğinden eğitmenin sorumlu olduğunu belirterek olaydan duyduğu memnuniyetsizliği dile getirdi. Melbourne Üniversitesi Yapay Zekâ ve Dijital Etik Merkezi Başkanı Profesör Jeannie Paterson, üretken yapay zekâ sistemlerinin internetteki verileri "geri kusma" (regurgitation) eğiliminde olduğunu ve sistemin içeriğin kurgusal olduğuna dair verdiği yanıltıcı güvencelere güvenilmemesi gerektiğini vurguladı.

Olayda yapay zekâ sisteminin, hassas kişisel verileri yeterli filtreleme yapmadan kurgusal içerik gibi sunduğu ve kullanıcıyı içeriğin niteliği konusunda yanılttığı değerlendirilmektedir. Bakanlık, benzer bir durumun tekrarlanmaması için gerekli önlemlerin alınacağını bildirdi.