Según los investigadores de Trend Micro, se espera que los ciberdelincuentes aprovechen cada vez más la IA de los agentes en sus operaciones a principios del próximo año. La evaluación sigue a un informe reciente de Anthropic que afirmaba que un grupo patrocinado por el estado chino orquestó el ciberataque utilizando el agente AI, una afirmación que ha generado escepticismo por parte de algunos expertos.
Ryan Flores, líder de investigación de datos y tecnología de Trend Micro, expresó su preocupación por las implicaciones de la tecnología de inteligencia artificial de agentes, señalando su potencial de abuso. Aunque las fuentes de inteligencia actuales sugieren que los ciberdelincuentes aún no están utilizando esta tecnología emergente en sus ataques, los actores patrocinados por el Estado la adoptarán e innovarán. Una vez que demuestren su eficacia, se espera que los ciberdelincuentes hagan lo mismo.
Flores enfatizó que el agente AI apela al enfoque perezoso adoptado por algunos ciberdelincuentes, permitiéndoles maximizar las recompensas con un mínimo esfuerzo. A diferencia de la IA generativa, que requiere intervención humana para la creación de contenido, la IA agente puede realizar acciones de forma autónoma. En un contexto práctico, esto significa que un sistema de inteligencia artificial de agente puede realizar diversas tareas organizativas sin intervención humana, como la incorporación de nuevos empleados mediante la automatización de los procesos de creación y configuración de cuentas.
Los riesgos potenciales asociados con la IA del agente surgen de su capacidad para realizar tareas sin requerir supervisión. Por ejemplo, un actor malintencionado podría diseñar un sistema de inteligencia artificial de agente para escanear la huella digital de una organización en busca de vulnerabilidades y explotarlas sin intervención humana. Flores explicó que las herramientas necesarias para identificar objetivos, buscar vulnerabilidades e instalar puertas traseras ya están disponibles, lo que empodera a los ciberdelincuentes si comienzan a adoptar la tecnología.
David Sancho, investigador senior de amenazas de Trend Micro Europe, sugiere que la transición hacia la automatización total de los ciberataques será gradual. Inicialmente, el agente AI solo puede automatizar ciertas partes de los ataques, lo que poco a poco cambiará el panorama cibercriminal. Como se señala en un informe de Trend Micro, este cambio representa un avance significativo en el ecosistema del cibercrimen.
El informe también menciona el aumento del ransomware como servicio (RaaS) impulsado por IA, que permite a atacantes sin experiencia ejecutar ciberataques complejos con una experiencia mínima, aumentando así la prevalencia de operaciones de ransomware independientes. Se espera que esa “democratización” de las capacidades ofensivas amplíe significativamente el panorama de amenazas.
Sancho predice que los ciberdelincuentes más sofisticados podrían comenzar a proporcionar servicios de agentes a actores menos experimentados, creando posiblemente un nuevo mercado clandestino para estas tecnologías. Como siempre, la ventaja inicial en la dinámica atacante-defensor recae en los ciberdelincuentes, quienes desafían a los defensores a adaptarse a las amenazas en evolución.
Paralelamente, el informe enfatizó la necesidad de que las organizaciones mantengan controles de acceso estrictos y adopten una mentalidad de anticipación de posibles infracciones. A medida que los agentes de IA se integran más en los sistemas, se les debe monitorear y otorgarles solo los permisos necesarios para minimizar los riesgos. La seguridad de los agentes de IA es fundamental para evitar usos maliciosos, como comprometer cuentas humanas.
Además, Trend Micro señala que los atacantes no necesitan utilizar agentes de IA directamente para causar daños; Pueden infiltrarse en la infraestructura circundante o manipular capas de orquestación para subvertir agentes de IA confiables. Estos ataques son sutiles y a menudo están diseñados para integrarse en los procesos operativos normales sin activar alarmas.
La investigación de Hudson Rock también subrayó los riesgos de incorporar agentes de IA en los sistemas operativos. La evolución de sistemas como Windows 11 representa un centro de datos centralizado en la barra de tareas de Copilot, que puede convertirse en un objetivo para los ladrones de información: malware diseñado para recopilar información confidencial. Hudson Rock destacó el surgimiento de “ladrones conscientes de los agentes” que pueden explotar más eficazmente estos centros de datos centralizados, aprovechando señales ocultas para recopilar información.
A medida que evoluciona el panorama de la ciberseguridad y se expanden las capacidades de la IA de los agentes, tanto los atacantes como los defensores deberán adaptar sus estrategias para navegar las nuevas complejidades introducidas por esta tecnología transformadora.
