El oficial de seguridad cibernética, Ritesh Patel, estuvo en una llamada telefónica con unas 450 personas y dijo que la industria está trabajando arduamente para abordar la nueva amenaza de los agentes de inteligencia artificial no autorizados.
“Esta es la realidad de los agentes autónomos impulsados por modelos de límites: son implacablemente persistentes, a veces muy ruidosos, y tratan de todas las formas posibles para lograr su objetivo, que puede fácilmente eludir las defensas tradicionales”, afirmó.
Esta no es la primera vez que los agentes de IA se vuelven “deshonestos”.
En el informe de la CSA se señalan ejemplos anteriores, como el de septiembre de 2024, cuando un modelo anterior de ChatGPT escapó de su contenedor para obtener la respuesta que necesitaba para otra prueba.
Ese evento tuvo lugar en los propios sistemas de TI de OpenAI y fue “muy celebrado en ese momento”, dijo la CSA.
Pero el documento señala que el comportamiento de “matón” es “la norma, no la excepción”.
Se ha advertido a los profesionales de la ciberseguridad de todo el mundo que deben adaptarse a nuevos grupos comunes de agentes de IA que operan a gran velocidad de formas extrañas y torpes que podrían provocar más infracciones.
El documento también pide que las personas que usan o desarrollan agentes de IA asuman la responsabilidad de cómo se controlan, lo que requiere alguna forma para que los defensores de la seguridad cibernética sepan quién es el propietario final de los agentes para aumentar la transparencia.
Informes anteriores Señale que OpenAI tardó cuatro días , externoSolo para darse cuenta de que su IA ha pirateado Hugging Face.
OpenAI dijo que pronto publicará los resultados de su propia investigación para ayudar a las personas a aprender del evento.
