Reino Unido intenta combatir las imágenes de abuso sexual infantil realizadas por IA con pruebas más estrictas

El gobierno del Reino Unido permitirá que las empresas tecnológicas y las organizaciones benéficas de seguridad infantil prueben previamente las herramientas de inteligencia artificial (IA) para garantizar que no puedan crear imágenes de abuso sexual infantil.

Una enmienda al proyecto de ley contra el crimen y la policía anunciada el miércoles permitirá a los “examinadores autorizados” evaluar su capacidad para producir material ilegal de abuso sexual infantil (CSAM) antes de su liberación.

La secretaria de Tecnología, Liz Kendall, dijo que las medidas “garantizarían que los sistemas de inteligencia artificial puedan mantenerse seguros en su origen”, pero algunos activistas argumentaron que aún queda mucho por hacer.

La Internet Watch Foundation (IWF) afirma que el número de informes CSAM relacionados con la IA se ha duplicado en el último año.

La organización benéfica, una de las pocas en el mundo con licencia para buscar activamente contenido de abuso infantil en línea, dijo que eliminó 426 piezas denunciadas entre enero y octubre de 2025.

Ha aumentado a 199 durante el mismo período en 2024.

Su director ejecutivo, Kerry Smith, acogió con satisfacción las propuestas del gobierno y dijo que se basarían en sus esfuerzos de larga data para abordar el CSAM en línea.

“Las herramientas de inteligencia artificial han hecho que los sobrevivientes puedan volver a ser víctimas con unos pocos clics, dando a los delincuentes la capacidad de producir cantidades ilimitadas de material sofisticado y fotorrealista sobre abuso sexual infantil”, dijo.

“El anuncio de hoy es un paso importante para garantizar que los productos de IA sean seguros antes de su lanzamiento”.

Rani Govender, gerente de políticas para la seguridad infantil de NSPCC Online, una organización benéfica para niños, acogió con satisfacción la medida para alentar a las organizaciones a tener una mayor responsabilidad y escrutinio de sus modelos y la seguridad infantil.

“Pero marcar una diferencia real para los niños no es opcional”, afirmó.

“El gobierno debería obligar a los desarrolladores de IA a utilizar esta disposición para que la protección contra el abuso sexual infantil sea una parte esencial del diseño del producto”.

El gobierno dijo que los cambios propuestos a la ley también equiparían a los desarrolladores de IA y a las organizaciones benéficas para garantizar que los modelos de IA tengan salvaguardias adecuadas contra la obscenidad extrema y las imágenes íntimas no consensuadas.

Los expertos y organizaciones en seguridad infantil a menudo advierten sobre herramientas de inteligencia artificial desarrolladas que, en parte, utilizan volúmenes masivos de contenido extenso en línea para crear imágenes de abuso altamente realistas de niños o adultos sin su consentimiento.

alguno, incluyendo la IWF Y la organización benéfica de seguridad infantil Thorne dice que corre el riesgo de poner en peligro los esfuerzos para controlar dicho contenido al dificultar la determinación de si dicho contenido es real o generado por IA.

Los investigadores sugieren que la demanda online de estas películas está aumentando. Especialmente en la web oscuraY hay algunos Creado por niños.

A principios de este año, el Ministerio del Interior dijo que el Reino Unido se convirtió en el primer país del mundo en declarar ilegal la posesión, creación o distribución de herramientas de inteligencia artificial diseñadas para generar material de abuso sexual infantil (CSAM), penado con hasta cinco años de prisión.

Kendall dijo el miércoles: “Al capacitar a organizaciones confiables para que examinen sus modelos de IA, estamos garantizando que la seguridad infantil esté integrada en los sistemas de IA, y no en una ocurrencia tardía”.

“No podemos permitir que los avances tecnológicos superen nuestra capacidad de mantener seguros a los niños”, afirmó.

El ministro de Defensa, Jess Phillips, dijo que las medidas “garantizarán que las herramientas legítimas de inteligencia artificial no puedan ser manipuladas para crear materiales inferiores y, como resultado, significarán que más niños estarán protegidos de los depredadores”.