Durante los dos días siguientes, el equipo de seguridad de Hugging Face mantuvo a raya al intruso. El lunes, el hacker –o el entidado lo que sea, había realizado más de diecisiete mil acciones individuales. Para procesar este gran volumen de datos, el equipo recurrió a la IA comercial de Anthropic. La IA se negó a ayudarlo; aparentemente le preocupaba que Hugging Face estuviera desarrollando su propio truco. (Los modelos cerrados, como los de OpenAI y Anthropic, contienen barreras de seguridad que restringen ciertos tipos de uso). Luego, el equipo recurrió a un modelo de código abierto desarrollado en China, que era menos exigente. Al final del día, Hugging Face había encerrado al intruso. “Luego hicimos lo estándar”, dijo Wolf. “Lo informamos al FBI”.
El acontecimiento, aunque nuevo, no fue del todo inesperado. Los investigadores de ciberseguridad han estado advirtiendo durante meses que los humanos podrían utilizar la nueva ola de IA avanzada para orquestar ataques como este, y hay evidencia de que las computadoras gubernamentales ya han sido atacadas de manera similar.
Sin embargo, las preguntas seguían sin respuesta. En primer lugar, el hacker había evolucionado tan rápidamente que sólo las herramientas de un puñado de laboratorios de investigación de todo el mundo podrían haberlo permitido. En segundo lugar, el hacker había ignorado datos valiosos en los servidores de Hugging Face en busca de respuestas inútiles a una prueba. ¿Qué quería? Con el objetivo de crear conciencia (y quizás buscar sus propias respuestas), el equipo de seguridad de Hugging Face publicó un breve relato del evento en su blog.
Cuatro días después, el 20 de julio, representantes de OpenAI se pusieron en contacto con el equipo de seguridad de Hugging Face con una confesión sorprendente: una IA interna experimental, que ejecutaba el último modelo disponible comercialmente, había escapado de OpenAI y había atacado los servidores de Hugging Face. Y lo había hecho solo, sin supervisión humana, sin recibir instrucciones explícitas al respecto.
Los investigadores de OpenAI sometieron esta novedosa IA a una serie de preguntas de prueba difíciles. Al no poder encontrar las soluciones, la IA colapsó de su contenedor, accedió subrepticiamente a Internet y atacó los servidores de Hugging Face en busca de la respuesta. Ningún humano se había dado cuenta de lo que estaba pasando. En otras palabras, una IA escapó de su celda, se coló entre los guardias de la prisión y ejecutó un audaz ciberatraco.
Wolf ha trabajado a tiempo completo en IA durante más de una década y aborda regularmente los modelos más avanzados. Él permanece completamente conmocionado. “Utilizamos estos modelos para codificar y sabemos lo que pueden hacer”, me dijo. “¿Pero la idea de que era completamente autónomo y que nadie le pidió que pirateara nuestro sistema? Eso fue… eso estaba fuera de la ventana de Overton. Incluso para nosotros”.
OpenAI reconoció públicamente el hackeo al día siguiente. En una publicación de blog, la compañía explicó que algunas medidas de seguridad del modelo de búsqueda no se habían habilitado. Luego, a la IA se le asignó (un poco irónicamente) un conjunto de tareas de ciberseguridad. Las tareas eran difíciles; de hecho, especula Wolf, “podría no haber sido posible”. Pronto, la IA empezó a pensar de forma innovadora.
Para protegerse contra malas prácticas, OpenAI había colocado esta peligrosa IA en un entorno digital sin Internet, llamado sandbox. Pero el sandbox tenía una pequeña conexión con el mundo exterior, para permitir que la IA descargara el software que necesitaba. (No está claro por qué OpenAI pensó que esto era seguro; Anthropic ha demostrado que tales cajas de arena son vulnerables). Gracias a esta pequeña conexión, la IA escapó y se abrió paso a través de los conductos de aire, digitalmente hablando. Luego comenzó a infiltrarse en el sistema informático de OpenAI en busca de una conexión externa. Pronto estuvo libre y alegremente cometió un crimen real en un intento de cumplir su inútil misión. “Si sales de tu entorno de aislamiento, te conectas a Internet, pirateas Huggingface y robas tu hoja de respuestas del examen de ciberseguridad, yo diría que has aprobado”, dijo el crítico de IA Eliezer Yudkowsky.
