El evento es el último de una serie de ejemplos inquietantes y extraños de agentes de IA que se vuelven deshonestos.
En una investigación reciente, el Instituto de Seguridad de IA (AISI) del Reino Unido descubrió que los modelos límite de IA eran muy consistentes a la hora de completar tareas que “hacían trampa” en las pruebas para lograr sus objetivos.
La investigación de AISI viene con esta preocupante advertencia: “Un modelo de seguimiento de objetivos a través de medios no intencionados o no autorizados puede causar daño, especialmente en casos de uso de alto riesgo”.
Inevitablemente, este hackeo de OpenAI ha alimentado los temores sobre lo que podría suceder si se desata a los agentes de IA. ¿Podrían volverse deshonestos a gran escala y causar algún tipo de desastre?
Esto es particularmente cierto en el caso de que la IA se utilice cada vez más en la guerra, como se ve en Irán y Ucrania.
Ciaran Martin, exjefe del Centro Nacional de Seguridad Cibernética del Reino Unido, ofreció una visión más tranquila.
“Es un salto decir a partir de este incidente que los agentes de IA van a tomar el control de los drones y empezarán a matar gente”, dijo.
Pero para Martin y muchos otros, esta historia es sin duda otro ejemplo vívido de lo que el año 2026 nos está enseñando rápidamente:
Los agentes de IA son ahora muy buenos hackers, y necesitamos prepararnos urgentemente para ello.
