Instagram’da çocuk temalı müstehcen içerik üretimine odaklanan yapay zekâ reklamlarının yayımlandığı öne sürüldü

Veri bilimci J. Patrick Hall, Ekim 2023’te yayımladığı bir sosyal medya paylaşımında, Meta bünyesindeki Instagram platformunda "PicSo_ai" adlı üretken yapay zekâ uygulamasına ait reklamlarla karşılaştığını bildirdi. Hall, söz konusu reklamların olağan içerikler arasında sunulduğunu ve uygulamanın özellikle "kızlar/kız çocukları" (girls) vurgusuyla müstehcen içerik üretimine yönelik bir pazarlama stratejisi izlediğini öne sürdü.

Paylaşılan iddiada, uygulamanın yapay zekâ kullanarak pornografik veya müstehcen görseller oluşturma kapasitesine vurgu yaptığı ve bu süreçte kullanılan dilin çocuk güvenliği açısından risk teşkil edebileceği belirtildi. Paylaşımı yapan kişi, bu tür içeriklerin yasal durumuna ilişkin kesin bir hukuki değerlendirme yapmamakla birlikte, durumu etik dışı olarak nitelendirerek ilgili içeriklerin ABD Adalet Bakanlığı’na (DOJ) bildirilmesi çağrısında bulundu.

Olay, Meta’nın reklam denetim mekanizmalarının üretken yapay zekâ araçları tarafından oluşturulan ve çocuk güvenliğini tehlikeye atabilecek içerikleri tespit etmedeki yeterliliğini tartışmaya açmıştır. Reklamın hedefleme kriterleri, Meta’nın bu reklamı onaylama süreci veya uygulamanın ürettiği içeriklerin tam kapsamı hakkında platform sağlayıcısından veya uygulama geliştiricisinden kamuya açık resmi bir açıklama gelmediği için sistemdeki denetim açığının boyutu bağımsız kaynaklarca bütünüyle doğrulanmamıştır.