Victoria Çocuk Koruma Kurumu çalışanının ChatGPT kullanarak hazırladığı raporda çocuk istismarı risklerini düşük gösterdiği ve gizlilik ihlali yaptığı bildirildi

Avustralya’nın Victoria eyaletindeki Aileler, Hakkaniyet ve Konut Departmanı’nda (DFFH) görevli bir vaka çalışanının, Çocuk Mahkemesi’ne sunulacak bir koruma raporunu hazırlarken ChatGPT kullandığı tespit edildi. Victoria Bilgi Komiserliği Ofisi (OVIC) tarafından yürütülen incelemede, söz konusu raporun cinsel istismar suçlamasıyla karşı karşıya olan ebeveynlerin yanında yaşayan bir çocuğun maruz kaldığı riskleri değerlendirdiği belirtildi. Çalışanın, raporu "zaman kazanmak ve daha profesyonel görünmek" amacıyla yapay zekâ yardımıyla oluşturduğu, ancak bu süreçte çocuğun ismi dâhil hassas kişisel verileri sisteme girdiği değerlendirildi.

OVIC raporuna göre, ChatGPT çıktısı vaka verilerini hatalı yorumlayarak çocuk için hayati önem taşıyan riskleri olduğundan az gösterdi. Özellikle, babanın cinsel amaçlarla kullandığı bildirilen bir oyuncak bebeğin, yapay zekâ tarafından "yaşa uygun oyuncaklar" kapsamında ebeveynlerin çocuk gelişimine verdiği desteğin bir göstergesi olarak sunulduğu aktarıldı. Bu durumun, istismar belirtilerini olumlu bir ebeveynlik özelliği gibi yansıtarak mahkemeyi yanıltma riski taşıdığı görüldü. Olayın mahkeme kararı üzerinde nihai bir değişikliğe yol açmadığı bildirilse de, sistemin bağlamı kavrayamaması nedeniyle ciddi bir güvenlik açığı oluştuğu vurgulandı.

Yapılan geniş kapsamlı incelemede, ilgili birimde bir yıl içinde hazırlanan yaklaşık 100 belgede ChatGPT kullanımına dair emarelere rastlandığı; ayrıca departman çalışanlarının yaklaşık %13’ünün (900 kişi) sisteme erişim sağladığı belirlendi. OVIC, DFFH’ye yönelik bir uyum bildirimi yayımlayarak çocuk koruma çalışanlarının ChatGPT, Gemini ve Copilot gibi üretken yapay zekâ araçlarını kullanmasını yasakladı ve bu sitelere erişimin teknik olarak engellenmesine karar verdi. İlgili çalışanın artık kurumda görev yapmadığı, departmanın ise yapay zekâ kullanımına dair yeterli eğitim ve rehberlik sunmadığı yönündeki bulguları kabul ettiği bildirildi.