La Comisaria para la Infancia de Inglaterra, Dame Rachel de Souza, da la voz de alarma. Ante el auge de nuevas aplicaciones que utilizan la inteligencia artificial (IA) para generar imágenes sexuales de niños, pide al gobierno británico que actúe con firmeza. El objetivo: prohibir por completo aplicaciones de "nudificación" antes de que tengan consecuencias aún más graves para los jóvenes.
Índice
La amenaza emergente de las "nudification apps
Estas aplicaciones utilizan una simple foto de una persona vestida para generar una imagen falsa de esa persona desnuda. Un desarrollo tecnológico aterrador que, según Dame Rachel, pretende chicas desproporcionadamente jóvenes.
Según su informe publicado el lunes, muchas adolescentes hoy optan por evitar publicar fotos o participar en actividades en línea por miedo a ser objeto de ataques.
"Los niños temen que un desconocido, un compañero de clase o incluso un amigo utilice estas tecnologías para aprovecharse de ellos".
La normativa actual es inadecuada
Aunque la Ley de Seguridad en Línea prohíbe compartir o amenazar con compartir imágenes explícitas creadas por IA, Dame Rachel cree que esto no es suficiente.
En febrero de 2025, el Gobierno anunció nuevos delitos contra la posesión, creación y distribución de herramientas de IA diseñado para producir dicho contenido. Pero el Comisario insiste:
“Simplemente no debería haber aplicaciones de nudificación.“
Pide que se prohíba total de estas tecnologías, y no simplemente herramientas etiquetadas como creadoras de abusos sexuales a menores.
La magnitud del problema
El fenómeno está explotando:
- 245 casos de imágenes de niños maltratados por AI confirmadas en 2024 en comparación con 51 en 2023.
- +380% aumento en sólo un año (fuente: Internet Watch Foundation).
En palabras de Derek Ray-Hill, Director General interino de la IWF:
"Ya se abusa de estas apps en las escuelas, y las imágenes se descontrolan rápidamente".
¿Qué pide Dame Rachel de Souza?
Para proteger a los niños, formula una serie de recomendaciones clave:
- Imponer obligaciones legales desarrolladores de herramientas de IA para evaluar y mitigar los riesgos para los niños.
- Establecer un mecanismo sistemático para eliminar los deepfakes sexuales de los niños en Internet.
- Reconocer los deepfakes sexuales como violencia contra las mujeres y las niñas.
Paul Whiteman, Secretario General del sindicato NAHT, apoya este llamamiento y condena que la legislación vaya por detrás de la tecnología.
Reacción del Gobierno y de Ofcom
El Departamento de Innovación Científica y Tecnológica recuerda :
"La creación, posesión y distribución de material de abuso sexual infantil, incluso por parte de AI, es ilegal".
Ofcom también ha publicado su Código Infantilexigiendo a las plataformas que ponen a disposición contenidos sensibles que redoblen sus esfuerzos en este ámbito. controles de edad o enfrentarse a fuertes multas.
Pero Dame Rachel critica el código, acusando a Ofcom de anteponer los intereses comerciales en detrimento de la seguridad de los niños.
Conclusión
Laplicaciones de nudificación mediante IA suponen una amenaza inmediata. Puede que la tecnología avance a una velocidad vertiginosa, pero la protección de los niños debe seguir siendo una prioridad absoluta.
La petición de Dame Rachel de una prohibición total pone de relieve lo obvio: En la carrera por innovar, no podemos sacrificar la inocencia de los más pequeños.
Los legisladores deben reaccionar con la misma rapidez que los desarrolladores tecnológicos.
FAQ - Llamamiento para prohibir las aplicaciones de inteligencia artificial que crean imágenes de niños desnudos
¿Por qué pide Rachel de Souza que se prohíban las aplicaciones en la nube?
Porque permiten crear imágenes sexuales de niños, exponiendo a los menores a graves peligros psicológicos y físicos.
En deepfakes ¿ya es ilegal?
Sí, compartir o amenazar con compartir esas imágenes está prohibido por la Ley de Seguridad en Línea, pero Dame Rachel cree que esto no es suficiente.
¿Qué recomendaciones adicionales se han hecho?
Imponer obligaciones a los promotores deIASe trata de eliminar los deepfakes y tratar estos actos como violencia contra las mujeres y las niñas.
¿Existe el riesgo de que la tecnología se imponga a la ley?
Sí, muchos expertos, entre ellos Paul Whiteman, creen que la velocidad de desarrollo de IA supera holgadamente la evolución legislativa.
