Under 2025 gällde drygt 182 000 anmälningar till den amerikanska tipslinjen CyberTipline innehav, framställning eller försök att framställa AI-genererat sexuellt övergreppsmaterial som skildrar barn, enligt National Center for Missing & Exploited Children (NCMEC). Eftersom även försök räknades behövde inget material ha framställts för att en anmälan skulle ingå. De drygt 1,1 miljoner anmälningarna från Amazon AI Services om potentiellt övergreppsmaterial i AI-träningsdata ingick inte i siffran.
Vid mötet i FN:s högkvarter den 19 november 2026 diskuterade företrädare för stater, FN, tekniksektorn, forskningen och civilsamhället hur AI kan göra det lättare att utsätta barn för sexuella övergrepp och exploatering på nätet. Manipulerade bilder som framställer barn som nakna kan användas för att hota eller förnedra dem. AI kan också underlätta grooming och sexuell utpressning.
– Alla delar av arbetet med att skydda barn på nätet måste samverka. De måste enas om ett gemensamt mål: att göra globala standarder till en central del av AI-styrningen, med krav på att skydd för barn och deras integritet byggs in från början, sade Najat Maalla M’jid, FN:s generalsekreterares särskilda representant för frågor om våld mot barn.
Deltagarna efterlyste också mer internationellt samarbete och att barn och unga får påverka de regler och tekniska lösningar som berör dem. Sveriges FN-representation arrangerade mötet tillsammans med den särskilda representantens kansli och World Childhood Foundation.




