Grok acusó al gobierno de arrastrar la ley deepfake contra la IA

Los activistas han acusado al gobierno de demorarse en hacer cumplir una legislación que haría ilegal la creación de deepfakes sexuales no consensuales.

Se produce en medio de una reacción violenta por las imágenes creadas con AI Grok de Elon Musk para quitarse la ropa digitalmente; una mujer le dijo a la BBC que produjo más de 100 imágenes sexualmente explícitas.

esta presente Compartir deepfakes para adultos es ilegal en el Reino UnidoPero la nueva ley, que tipifica como delito crearlos o solicitarlos, aún no está vigente. Aprobado en junio de 2025..

Pero no está claro si todas las imágenes de desnudos de Groc violarían la ley. La BBC se ha acercado al gobierno para solicitar comentarios.

en una declaraciónX dijo: “Cualquiera que use o solicite a Grok que cargue contenido ilegal enfrentará las mismas consecuencias que si subiera contenido ilegal”.

“Tomaremos medidas eliminando el contenido ilegal en X, incluido el material de abuso sexual infantil (CSAM), suspendiendo permanentemente las cuentas y trabajando con los gobiernos locales y las autoridades”, dice el comunicado.

Se puede acceder a Grok a través de su sitio web y su aplicación o etiquetando “@grok” en publicaciones en la plataforma de redes sociales X.

Pero Andrea Simon, de Ending Violence Against Women, dijo que el gobierno había “puesto a mujeres y niñas en peligro” al no implementar la ley.

“Los deepfakes sexualmente indecentes y no consensuados son una clara violación de los derechos de las mujeres y tienen un impacto traumático a largo plazo en las víctimas”, afirmó.

“Para las mujeres que utilizan plataformas como X, la amenaza de este abuso puede significar que necesitan autocensurarse y cambiar su comportamiento, limitando incluso su libertad de expresión y participación en línea”.

“Esto no es sólo una cuestión de justicia penal, sino una cuestión de regular el ecosistema tecnológico que facilita y se beneficia de la violencia contra las mujeres y las niñas”.

el martesLa secretaria de Tecnología, Liz Kendall, exigió a X “arreglar esto de inmediato”, calificando la situación de “absolutamente terrible”.

El regulador Ofcom dijo que había hecho un “contacto urgente” con X y xAI, que construyeron Grok. Los lunes Y le dijo a la BBC que estaba investigando las preocupaciones.

Tanto Kendall como Downing Street defendieron que el regulador tomara medidas, y el portavoz del Primer Ministro añadió el miércoles que “todas las opciones siguen sobre la mesa”.

El Ministerio de Justicia dijo a la BBC: “Compartir imágenes íntimas en las redes sociales, incluidas las deepfakes, sin permiso ya es un delito.

“Nos negamos a tolerar este comportamiento vergonzoso y dañino, por lo que también hemos introducido legislación para prohibir su creación sin consentimiento”.

La ley actual dice que es ilegal hacer deepfakes obscenos en pornografía de venganza o al filmar a niños.

Una disposición de la Ley de Datos (Uso y Acceso) de 2025 tipifica como delito la creación o habilitación de “imágenes íntimas intencionadas” o deepfakes, dijo a la BBC Lorna Woods, profesora de derecho de Internet en la Universidad de Essex.

Pero Un año desde que se anunció por primera vez la represión contra el crimenExpertos y activistas le dijeron a la BBC que el gobierno aún no ha adoptado una disposición legal clave que apunte a quienes le piden a Grok que haga falsificaciones sexuales de mujeres y niñas.

El profesor Woods dijo que el crimen “parece muy adecuado para algunas de las películas realizadas con Grok”, pero aún no se ha llevado a cabo.

Mientras tanto, Simon de EVAW cuestionó por qué no se había aprobado la legislación secundaria necesaria para criminalizar la creación de deepfakes sexuales, ya que eran una “clara violación de los derechos de las mujeres”.

“Esta ley aún no ha entrado en vigor, ni se ha fijado una fecha en la que entrará”, afirmó.

Su compañera conservadora, la baronesa Owen, ¿Quién hizo campaña por un cambio legal en la Cámara de los Lores?Le dijo a la BBC que el gobierno había “repetidamente demorado” la implementación de las reglas.

“No podemos permitirnos ningún retraso”, afirmó.

“Los supervivientes de este abuso merecen algo mejor.

“Nadie debería vivir con el temor de que se viole su consentimiento de esta manera horrible”.

Y su colega baronesa Beebon Kidron dijo a la BBC: “La tecnología avanza rápido y esta legislación debería tapar un vacío existente, por lo que no hay razón para demorarse”.

La BBC tiene Hablé con muchas mujeres. Aquellos que han sido falsificados por Grok AI tienen fotos de ellos mismos publicadas en X.

Grok es una herramienta gratuita que permite a los usuarios etiquetar a otras personas en sus comentarios, generalmente con indicaciones para brindar una respuesta o contexto.

Más recientemente, las personas han podido utilizar el chatbot etiquetando y alterando imágenes cargadas por otras personas e incluyendo un mensaje de texto, incluido desnudarlas o ponerlas en poses sexuales.

Evie le dijo a la BBC que la gente comenzó a responder a fotos de ella pidiéndole a Groke que la pusiera en bikini hace unos meses, y la última actualización lo ha hecho “más fácil” para los usuarios y las imágenes parecen “más realistas”.

Ella dice que ahora ha creado al menos 100 imágenes sexuales a través de un asistente de inteligencia artificial y ha dejado de reportarlas todas debido al “estrés mental” de verlas.

Además de ver las fotos ella misma, la idea de que sus seres queridos la vieran en poses sexuales o desnuda hacía que fuera muy difícil para ella estar en X.

“Mi familia me sigue allí, mis amigos, mis colegas”, dijo.

“Saber que todos los que me importan en mi vida me ven así… es asqueroso”.

Otra usuaria de X, la Dra. Daisy Dixon, le dijo a la BBC que había visto un aumento en el uso de Grok para desvestirse, particularmente en su foto de perfil.

Dijo que las imágenes la hicieron sentir “humillada” y dijo que se sintió atacada porque Groke automáticamente comentó sobre las imágenes alteradas de ella.

“Tener el poder de devolvértelo es como decir: ‘Tengo control sobre ti y voy a seguir recordándote que tengo control sobre ti'”, dijo.

“No queremos diluir la sensación, pero se siente como una especie de asalto al cuerpo”.

Y los usuarios de X como Evie dicen que es necesario actuar ahora.

“Hay muchos lugares en línea donde puedes hacer esto, pero el hecho de que esté sucediendo en Twitter con un robot de inteligencia artificial integrado, es una locura que esté permitido”, dijo.

“¿Por qué se permite esto y por qué no se hace nada al respecto?”