El uso de inteligencia artificial para generar y manipular imágenes sexuales de niños, niñas y adolescentes crece a nivel global y ya es considerado una de las nuevas formas de abuso digital. Así lo advierte el informe “Inteligencia artificial y abuso y explotación sexual infantil”, que señala un aumento sostenido de deepfakes (contenido falso —imagen, video o audio— creado o alterado con inteligencia artificial para que parezca real, imitando el rostro, la voz o los gestos de una persona) y contenidos sexualizados fabricados a partir de fotos reales de menores.
El reporte surge de la segunda fase del proyecto Disrupting Harm, una investigación impulsada por Innocenti —la Oficina de Estrategia y Datos de UNICEF— junto con ECPAT International e INTERPOL, con financiamiento de Safe Online. El estudio analiza cómo las tecnologías digitales están facilitando nuevas modalidades de explotación y aporta evidencia para reforzar sistemas de protección y marcos normativos.
Entre las prácticas detectadas aparece la llamada “nudificación”, que consiste en usar herramientas de IA para quitar o alterar la ropa en fotografías y producir imágenes sexualizadas o desnudos falsos. También se registra la creación de videos y audios manipulados con apariencia real para producir material de abuso o extorsión.
Los datos relevados en 11 países muestran la dimensión del problema. Al menos 1,2 millones de niños y niñas dijeron haber sido afectados en el último año por la manipulación sexual de sus imágenes mediante deepfakes. En algunos territorios, la incidencia alcanza a 1 de cada 25 menores, una proporción que equivale a un estudiante por aula.
El informe remarca que la preocupación también está presente entre las propias infancias. Allí se indica que “los propios niños y niñas son muy conscientes de este peligro” y que en varios países hasta dos tercios manifestaron temor a que la inteligencia artificial pueda falsificar imágenes o videos suyos con contenido sexual. La diferencia de niveles de alerta entre países, sostienen, muestra la necesidad de reforzar la concientización y la prevención.
Desde UNICEF advierten que el contenido sexual infantil generado con IA debe ser tratado como material de abuso. Señalan que los deepfakes también constituyen violencia, aunque la imagen haya sido fabricada digitalmente, porque el impacto sobre la víctima es real. El organismo subraya que usar la imagen o identidad de un menor lo convierte directamente en víctima y que, aun cuando no pueda identificarse a un niño o niña en particular, este tipo de material “normaliza la explotación sexual infantil, impulsa la demanda de contenidos abusivos y dificulta la tarea de identificación y protección”.
Frente a este escenario, los organismos internacionales plantean la necesidad de actualizar las leyes para incluir de manera explícita el contenido generado por inteligencia artificial dentro de las definiciones de abuso sexual infantil, penalizando su creación, posesión y circulación. También piden a las empresas tecnológicas aplicar medidas de seguridad desde el diseño de los modelos de IA e impedir la difusión de este material antes de que se viralice.
Qué pueden hacer las familias
UNICEF difundió además una guía para madres, padres y cuidadores con orientaciones sobre inteligencia artificial. Allí recomienda informarse sobre cómo funcionan estas herramientas, reflexionar sobre el uso de datos personales en aplicaciones y dispositivos, y conversar con chicos y chicas sobre riesgos y cuidados en entornos digitales.
También sugiere preguntar en las escuelas cómo se utilizan sistemas de IA, promover el pensamiento crítico para reconocer manipulaciones, establecer límites de tiempo y contenido, y prestar atención a señales de aislamiento, irritabilidad o cambios bruscos de conducta vinculados al uso de tecnología. Ante cualquier sospecha, aconseja acudir a la institución escolar, a profesionales de salud mental o a canales oficiales de orientación digital.
Recomendaciones
- Informate: Actualiza tus conocimientos sobre dispositivos y el acceso a Internet para entender sus ventajas y riesgos.
- Hablá de privacidad: Enséñales a identificar información personal que no deben compartir en Internet.
- Control parental: Utiliza herramientas de control parental y configura la privacidad en dispositivos y aplicaciones.
- Establecé reglas de uso: Acordá horarios y condiciones para el uso de dispositivos y acceso a Internet.
- Fomentá la comunicación: Crea un ambiente de confianza para que puedan compartir experiencias negativas en línea.
- Monitoreo de actividades: Revisá el historial de navegación y seguí sus perfiles en redes sociales para prevenir riesgos.
- Modelo de uso responsable: Las personas adultas deben mostrar hábitos equilibrados en el uso de dispositivos y ser ejemplos positivos.
- Mantener conversaciones abiertas sobre el uso de IA.
- Fomentar el desarrollo de un criterio digital para identificar información falsa, acoso o manipulación.
- Estar atentos a señales de aislamiento, irritabilidad al quitar el dispositivo o cambios bruscos de comportamiento.
- Conversar con niños, niñas y adolescentes sobre el uso de las redes sociales, la importancia de no dar información personal y, en lo posible, no compartir fotos y videos propios. Padres, madres y familias también deben tomar precauciones al compartir fotos y videos de sus hijos, hijas o familiares.
