El regulador de seguridad en línea del Reino Unido anunciado el lunes La empresa estaba investigando oficialmente a X porque Grok había sido “utilizado para crear y compartir imágenes de personas desnudas”, incluidos niños.
Ofcom dijo que estaba llevando a cabo una “evaluación acelerada” y que X respondió a sus solicitudes de información el viernes. Si Ofcom cree que X ha violado la ley del Reino Unido, puede imponer sanciones que van desde el 10% de su facturación global hasta prohibir a las empresas del Reino Unido hacer publicidad con
La investigación británica es sólo una de las acciones tomadas por gobiernos de todo el mundo en respuesta a las capacidades de deepfake de Grok.
Durante el fin de semana, los reguladores en Indonesia y Malasia anunció que tenían
bloquearon temporalmente a X en su país, citando sus leyes contra los deepfakes y el material de abuso sexual infantil (CSAM).
Mary Anne Franks, profesora de derecho en la Universidad George Washington que estudia las leyes sobre pornografía no consensuada y ha ayudado a legisladores estatales y federales a elaborar leyes sobre el tema, dijo que no espera que el gobierno federal de Estados Unidos intervenga. Pero las amenazas de otros países con leyes CSAM más estrictas podrían obligar a X y Musk a controlar a Grok, dijo.
“Si hay alguna desaceleración, estoy seguro de que se debe a la reacción, y luego por separado, porque estos otros países tienen definiciones diferentes de lo que constituye CSAM ilegal”, dijo Franks.
La semana pasada, después de que los usuarios se lo pidieran, Grok comenzó a crear miles de imágenes sexualizadas generadas por IA cada hora utilizando rostros de personas reales y a publicarlas en X, según un análisis dirigido por la investigadora de deepfake Genevieve Oh. Muchos deepfakes mostraban a mujeres identificables en trajes de baño o poses reveladoras mediante inteligencia artificial; pero Grok también representó a algunas personas, incluidos niños, según algunos perros guardianes, completamente desnudos.
Un portavoz de la Comisión Europea, el brazo ejecutivo de la Unión Europea, dijo a NBC News que la agencia observó recientemente a Grok generando imágenes sexualizadas de niños.
El viernes, el Comisionado de eSafety de Australia, una agencia gubernamental dedicada a la seguridad en línea, afirmó que había recibido varios informes Grok creó imágenes de explotación y le pidió a X que aclarara sus salvaguardas, enfatizando que podría emitir avisos de eliminación a condenó las imágenes el sábado.
Musk y X no respondieron de inmediato a una solicitud de comentarios. Almizcle y X publicado recientemente que prohíben a los usuarios crear “contenido ilegal”, pero se abstuvieron de indicar públicamente que alterarían significativamente la capacidad de Grok para manipular y sexualizar las imágenes de las personas. La creación y posesión de pornografía infantil es en gran medida ilegal en todo el mundo, pero muchos países también tienen leyes que restringen o prohíben la creación de imágenes sexualizadas de adultos sin su consentimiento, lo que se conoce como pornografía no consensual.
Temprano en la mañana del viernes, aunque la cantidad de imágenes de este tipo publicadas en
Ofcom dijo que su investigación se centraría en si X cumplió con la ley del Reino Unido al eliminar rápidamente el contenido ilegal tan pronto como tuvo conocimiento de ello, y si llevó a cabo evaluaciones de riesgos exitosas antes de realizar “cambios significativos en su servicio”.
El jueves, el primer ministro británico, Keir Starmer, dijo en una entrevista radiofónica que Ofcom “tiene todo nuestro apoyo para tomar medidas”.
“Es vergonzoso. Es repugnante. Y no debe ser tolerado”, dijo sobre la creación de imágenes. “X debe entender esto. »
Ministerio de Electrónica y Tecnología de la Información de la India, MeitY, habría advertido a X la semana pasada que estaba potencialmente violando sus leyes. MeitY no respondió a una solicitud de comentarios.
Aún no está claro si los reguladores estadounidenses perseguirán a Musk y sus empresas por las imágenes manipuladas. La Comisión Federal de Comercio no respondió a una solicitud de comentarios. El Departamento de Justicia dijo a NBC News la semana pasada que estaba comprometido a responsabilizar a “individuos que explotan la tecnología para dañar a los más vulnerables”, pero no mencionó empresas específicas.
Varios fiscales generales estatales se negaron a informar a NBC News si estaban considerando presentar cargos por las imágenes.
Musk ha presionado en gran medida a X y su compañía de inteligencia artificial que impulsa a Grok, xAI, a ser más laxos con la moderación de contenido que la mayoría de sus competidores. Viernes, él publicó en eso Informes del Partido Laborista Británico querer bloquear X de las imágenes de Grok era una prueba de que “quieren cualquier excusa para la censura”.
Thomas Regnier, portavoz de la Comisión Europea, afirmó en un comunicado conferencia de prensa el lunes que les dio a Musk y X un ultimátum para detener la producción de CSAM, pero no mencionó sanciones específicas.
“Establecer un paralelo entre la libertad de expresión y una herramienta de inteligencia artificial que genera material de abuso sexual infantil es una tontería peligrosa, especialmente cuando proviene del propietario de una empresa de tecnología. Francamente, ni siquiera puedo creer que estemos hablando de esto y hablando de ello desde el podio de la comisión en 2026”, dijo Regnier.
En diciembre, la Comisión Europea multó a X con 140 millones de dólares, alegando que la plataforma violaba las leyes de la UE contra el discurso de odio y la desinformación. Provocó críticas de la administración Trump, y el vicepresidente JD Vance y el secretario de Estado Marco Rubio lo calificaron de ataque a la libertad de expresión estadounidense.
