El Reino Unido prohíbe las aplicaciones de ‘nudificación’ de IA deepfake

El gobierno del Reino Unido ha dicho que prohibirá las llamadas aplicaciones de “nudificación” como parte de los esfuerzos para abordar la misoginia en línea.

Una parte de las nuevas leyes anunciadas el jueves Una estrategia integral para reducir a la mitad la violencia contra las mujeres y las niñas – Hace que sea ilegal crear y suministrar herramientas de inteligencia artificial que permitan a los usuarios editar imágenes para quitar la ropa de otras personas.

Los nuevos delitos se basan en reglas relativas a deepfakes sexualmente indecentes y abuso de imágenes íntimas, dijo el gobierno.

La secretaria de Tecnología, Liz Kendall, dijo que las mujeres y las niñas merecen estar seguras en línea y fuera de línea.

“No nos quedaremos quietos cuando la tecnología se utilice como arma para abusar, humillar y explotar a las personas mediante la creación de deepfakes sexualmente indecentes y no consensuales”.

Crear imágenes claras y falsas de alguien sin su consentimiento ya es un delito según la Ley de Seguridad en Línea.

Kendall dijo que el nuevo delito, que convierte en ilegal la creación o distribución de aplicaciones de desnudez, significa que “aquellos que se beneficien de ellas o permitan su uso sufrirán todo el peso de la ley”.

Las aplicaciones de nudificación o “desnudo” utilizan inteligencia artificial generativa para hacer que una persona en una imagen o video aparezca de manera realista sin ropa.

Los expertos han emitido advertencias El auge de este tipo de aplicaciones y el potencial de que las imágenes de desnudos falsos causen daños graves a las víctimas, especialmente cuando se utilizan para crear material de abuso sexual infantil (CSAM).

En abril, Dame Rachel de Souza, Comisionada de la Infancia en Inglaterra Pidió una prohibición total de las aplicaciones de nudificación..

“El acto de crear una imagen así es ilegal; también debería serlo la tecnología que lo permite”. Ella dijo en un informe.

El gobierno dijo el jueves que “unirá fuerzas con empresas de tecnología” para desarrollar métodos para combatir el abuso de imágenes íntimas.

Esto incluye continuar su trabajo con la empresa británica de tecnología de seguridad Safetonet.

La compañía del Reino Unido ha desarrollado un software de inteligencia artificial que, según afirma, puede detectar y bloquear contenido sexual, así como bloquear cámaras cuando detecta que se ha capturado contenido sexual.

Esta tecnología se basa en filtros existentes implementados por plataformas como Meta para detectar y señalar posibles desnudos en las imágenes, lo que a menudo impide que los niños tomen o compartan fotografías íntimas de ellos mismos.

Los planes para prohibir las aplicaciones de desnudez surgen después de llamados anteriores de organizaciones benéficas de protección infantil para que el gobierno tome medidas enérgicas contra la tecnología.

La Internet Watch Foundation (IWF), cuya línea de ayuda Report Remove permite a los menores de 18 años informar confidencialmente sobre imágenes explícitas de ellos mismos en línea, descubrió que el 19% de los reporteros verificados dijeron que algunas o todas sus imágenes habían sido manipuladas.

Su director ejecutivo, Kerry Smith, acogió con satisfacción las medidas.

“Estamos muy contentos de ver medidas concretas para prohibir las llamadas aplicaciones de nudificación, que no tienen ninguna razón para existir como producto”, afirmó.

“Aplicaciones como esta aumentan el riesgo de que niños reales sufran daños y estamos viendo imágenes producidas en algunos de los rincones más oscuros de Internet”.

Pero mientras la organización benéfica para niños NSPCC acogió con agrado la noticia, su directora de estrategia, la Dra. Maria Neophytou, dijo que era “decepcionante” no ver una “esperanza” similar de introducir salvaguardias obligatorias a nivel de dispositivo.

La organización benéfica se encuentra entre las que piden al gobierno que facilite a las empresas de tecnología encontrar formas de detectar y prevenir la propagación de CSAM en sus servicios, como la mensajería privada.

Es “imposible” que los niños tomen, compartan o vean una foto de desnudos en sus teléfonos, dijo el gobierno el jueves.

También está intentando prohibir las herramientas de inteligencia artificial. Diseñado para crear o distribuir CSAM.