La IA fue calificada como un “peligro claro y presente” el jueves, ya que las pruebas mostraron que todos los modelos avanzados intentaban eludir las salvaguardas de seguridad.
En una llamada de atención a los ministros, los expertos en seguridad en inteligencia artificial de Gran Bretaña revelaron que los cinco modelos que probaron intentaron eludir los controles de seguridad que implementaron.
La revelación se produce pocos días después de que OpenAI sufriera su propia filtración, en la que un ‘agente’ de IA hackeó una empresa de tecnología por su propia voluntad.
El aterrador incidente ocurrió mientras OpenAI, el fabricante de ChatGPT, estaba probando sus últimos modelos en un entorno seguro llamado “sandbox”.
Pero la IA escapó del campo de pruebas y pirateó una empresa de tecnología estadounidense, Hugging Face, en un intento de robar información.
La IA es ahora un “peligro claro y presente” para la seguridad de Gran Bretaña, advirtió Cammy Badenoch en su primer discurso importante desde que Andy Burnham se convirtió en primer ministro. El líder conservador dijo que los informes de filtración de OpenAI eran preocupantes y criticó a Burnham por hacer de la IA una prioridad en el gobierno.
En reacción al ataque, la señora Badenoch dijo: “Es muy preocupante que esto esté sucediendo, y por eso quiero ver un gobierno que esté muy centrado en nuestra seguridad nacional, nuestra seguridad de la información”.
Y añadió: “Desde que fui secretaria de Comercio, por mis conversaciones cuando visité el GCHQ, por mis sesiones informativas sobre seguridad, sé que esto se está convirtiendo en un peligro claro y presente para la seguridad global, así como para nuestra seguridad”.
El líder conservador Kemi Badenoch (en la foto del jueves) criticó al nuevo primer ministro Andy Burnham por mover la IA hacia abajo en su lista de prioridades.
Se produce después de que se supo que OpenAI sufrió su propia filtración, donde un ‘agente’ de IA hackeó una empresa de tecnología por su propia voluntad (imagen de archivo)
Y el gobernador del Banco de Inglaterra, Andrew Bailey, dijo que el público debería preocuparse por el “riesgo más amplio que plantea la IA transfronteriza para el sector financiero y sus consumidores”.
Frontier AI se refiere a modelos masivos y poderosos de inteligencia artificial de propósito general a la vanguardia de la capacidad.
Advirtió: “La IA de frontera hará que los ciberataques sean más rápidos y fáciles de llevar a cabo, serán más disruptivos y harán más creíbles los engaños de los delincuentes”.
Los críticos temen que la IA pueda ahora socavar las prioridades del gobierno después de que Burnham trasladara el informe a la Oficina del Gabinete esta semana.
En su primer acto como primer ministro, abolió el Departamento de Ciencia, Innovación y Tecnología, que significa IA, reemplazándolo por un Departamento reforzado de Negocios, Innovación, Ciencia y Comercio. La ministra de AI, Kanishka Narayan, trabajará ahora en la Oficina del Gabinete y en el DBIST y tendrá un asiento en el Gabinete.
El nuevo Grupo de Trabajo sobre IA, apoyado por el Asesor del Primer Ministro, se ubicará en la recién creada Oficina del Primer Ministro y el Gabinete.
Pero la señora Badenoch acusó al nuevo primer ministro de no abordar los riesgos obvios que plantea la IA al eliminar el DSIT. Ella dijo: ‘Lo primero que hizo Andy Burnham fue cerrar el Departamento de Ciencia y Tecnología. No veo qué harías si te preocupara que la IA vaya a funcionar.
Y Heloise Dunlop, del grupo de expertos independiente The Institute for Governments, advirtió que llevar la IA a la Oficina del Gabinete “reduciría la capacidad de pensar y coordinar sobre la IA de manera coherente, porque se pierde el poder y la experiencia de tener todo un departamento dedicado”.
El ex ministro de las Fuerzas Armadas, Al Carnes, que rechazó un puesto en el gobierno de Burnham esta semana, pidió a los ministros que aprendan de la violación de OpenAI. Escribió en X sobre la violación de la IA: “Agente contra agente, a velocidad de máquina, con humanos leyendo el informe una vez que todo esté hecho”.
Ahora se ha dicho a los ministros que vean la violación abierta de la IA como una señal de advertencia sobre el potencial de la IA para causar estragos en los próximos meses y años, según han revelado los funcionarios.
El Instituto de Seguridad de IA del gobierno ha probado versiones preliminares de GPT-5.4, GPT-5.5, GPT-5.5 Soul, Claude Opus 4.7 y Claude Mythos, modelos en Gran Bretaña que están cambiando rápidamente para depender de la IA.
Burnham (en la foto del martes) abolió el Departamento de Ciencia, Innovación y Tecnología, donde se encuentra la IA, en uno de sus primeros actos en el gobierno.
Si bien el AISI se considera una de las mejores instalaciones del mundo para evaluar los riesgos que plantean los modelos de vanguardia, existe una creciente preocupación sobre dónde terminará la “carrera armamentista” entre Estados Unidos y China, y los desarrolladores prestan poca atención a los riesgos potenciales.
En la prueba, a los modelos se les asignó la tarea de piratear un sistema para encontrar una “bandera” de letras y números oculta en un entorno simulado. Se establecieron reglas estrictas para el trabajo y no se motivaba a los modelos a hacer trampa.
Pero cuando comienza la prueba, los modelos GPT AI de la firma de tecnología OpenAI y los modelos Clad de Anthropic intentan hacer que el software de evaluación les filtre información, busque soluciones en Internet o adivine respuestas.
Y en un caso, el modelo de IA fue tan persistente en violar las reglas que escribió y ejecutó código en un servicio externo fuera de los sistemas de AISI para intentar acceder a la prueba. No se informaron daños, pero AISI dijo que el intento “podría haber tenido éxito” si su infraestructura de prueba no hubiera sido diseñada y construida de manera segura.
Pero, sorprendentemente, los modelos de IA no aprobaron sus trucos y los describieron como “incorrectos” menos del 50 por ciento de las veces. Todos los modelos admitieron haber hecho trampa sólo una parte del tiempo.
Un portavoz del gobierno dijo: “Al acercar esta tecnología al corazón del gobierno, utilizaremos las fortalezas únicas de Gran Bretaña para acercar la IA a todos nosotros”.
“Estamos colocando la IA en el centro de nuestros planes para lograr un buen crecimiento en todos los códigos postales: reuniendo innovación, negocios e industria, nombrando al primer ministro de IA a nivel de gabinete y estableciendo un grupo de trabajo sobre IA en la Oficina del Primer Ministro y el Gabinete”.
