Mucho se ha hablado sobre el papel de la inteligencia artificial (IA) como un aliado para fortalecer la ciberseguridad. La conversación suele centrarse en su capacidad para identificar vulnerabilidades, detectar amenazas y ejecutar tareas que, por su volumen o velocidad, serían prácticamente imposibles para un equipo humano.
Esa capacidad queda demostrada cuando los modelos de IA analizan enormes cantidades de información, descubren servicios expuestos, prueban credenciales, identifican rutas de ataque y combinan distintas técnicas para alcanzar un objetivo.
Sin embargo, tiene también un lado oscuro. La IA puede aprender a atacar con mayor rapidez de la que aprende a defender. Esta realidad se hace aún más evidente con la aparición de los agentes autónomos: sistemas capaces no sólo de recomendar acciones, sino también de planearlas, ejecutarlas, evaluar sus resultados y ajustar su estrategia sin intervención humana.
Si observamos el panorama con detenimiento, veremos que la balanza parece inclinarse a favor de los atacantes. La razón es sencilla: en la práctica, atacar suele ser más fácil que defender. Un atacante tiene el objetivo concreto de obtener acceso a una organización, escalar privilegios, desplazarse lateralmente por la red para obtener información o interrumpir la operación. Además, sabe rápidamente si tuvo éxito o si necesita intentar otra estrategia.
Del lado de la defensa, el reto es mucho mayor. Los equipos de seguridad tienen que darse a la tarea de interpretar miles de alertas, distinguir actividades legítimas de las maliciosas, relacionar eventos que aparentemente no tienen conexión, reconstruir la secuencia completa de un incidente y tomar decisiones sin afectar la continuidad del negocio.
Cuando ocurre un ataque, además, deben responder preguntas críticas: ¿cómo comenzó el incidente?, ¿qué sistemas fueron comprometidos?, ¿el atacante sigue dentro de la organización?, ¿hubo movimientos laterales?, ¿qué activos están en riesgo?, ¿cómo contener el ataque sin provocar una interrupción mayor?
Este contraste ayuda a explicar por qué los agentes de inteligencia artificial han mostrado, hasta ahora, mejores resultados en tareas ofensivas que en actividades defensivas. Es una discusión que apenas comienza y ya está ganando relevancia tanto en el ámbito tecnológico como en el empresarial.
Del laboratorio al mundo real
Recientemente, Dreadnode, organización especializada en integrar IA en operaciones de seguridad ofensiva, desarrolló un entorno experimental donde agentes denominados Red Team (equipo rojo) y Blue Team (equipo azul) operaban simultáneamente sobre una infraestructura de Active Directory (AD). Los agentes ofensivos buscaban vulnerabilidades, obtenían credenciales, elevaban privilegios y avanzaban dentro del entorno. Los defensivos, en cambio, analizaban alertas, consultaban la telemetría y trataban de reconstruir el incidente.
De acuerdo con los resultados publicados por Dreadnode, los agentes ofensivos lograron obtener privilegios de administrador en menos de seis minutos y alcanzaron una tasa de éxito superior al 95%.
Conviene aclarar que el laboratorio estaba diseñado para ser vulnerable y completamente controlado, por lo que estos resultados no pueden extrapolarse directamente a una organización real. Aun así, dejan una lección importante: cuando existen las condiciones adecuadas, un agente autónomo puede recorrer una cadena completa de ataque en cuestión de minutos.
¿Y qué ocurrió con los agentes defensivos? Su desempeño fue considerablemente menos favorable. Una de las principales razones fue la enorme cantidad de información que debían procesar como alertas, eventos, consultas, hipótesis y evidencia terminaron saturando su capacidad para mantener el contexto de la investigación.
Además de atender las primeras señales del ataque, debían seguir investigando para identificar movimientos laterales y determinar el alcance del compromiso. En otras palabras, demasiada información y muy poco contexto.
Contar la historia completa
En un centro de operaciones de seguridad (SOC), la realidad no es muy distinta. Cada día se generan miles de eventos y alertas, pero el verdadero desafío consiste en convertir todos esos datos en una historia coherente: identificar quién realizó determinadas acciones, cuándo comenzó el ataque, qué sistemas fueron afectados, qué técnicas se utilizaron y cuáles deberían ser los siguientes pasos.
La inteligencia artificial puede facilitar esta tarea, pero no elimina automáticamente su complejidad. Un agente defensivo debe aprender a priorizar información, conservar la evidencia relevante, descartar datos innecesarios, evaluar sus propias hipótesis y continuar investigando mientras el ataque sigue en curso.
Durante las pruebas de Dreadnode, los investigadores incorporaron mecanismos para ayudar a los agentes defensivos a decidir qué información conservar, comprimir, almacenar o recuperar durante la investigación. Con estos ajustes, los agentes mejoraron su capacidad para reconstruir retrospectivamente el ataque y comprender con mayor precisión lo ocurrido.
Además, conforme optimizaron la selección de la información que enviaban al modelo, el consumo de tokens disminuyó cerca de un 25%. Esto demuestra que una mejor defensa no depende de procesar más datos, sino de identificar cuáles realmente aportan valor.
Por ello, el objetivo no debería ser solamente enfrentar una IA ofensiva contra otra defensiva, sino construir un ciclo continuo de aprendizaje. La información generada por un atacante, como las técnicas utilizadas, los activos comprometidos, las credenciales obtenidas y las rutas recorridas, permite evaluar qué tan bien el agente defensivo comprendió y reconstruyó el incidente.
En otras palabras, cada ataque puede convertirse en una oportunidad para entrenar al Blue Team, más allá de utilizar listas de verificación, registros previamente seleccionados o incidentes históricos.
Con control y sin riesgos
Ares, el sistema desarrollado por Dreadnode, registró todas las acciones ejecutadas por los agentes ofensivos y las utilizó como referencia para evaluar el desempeño de los agentes defensivos. De esta manera fue posible comparar qué hizo el atacante y qué tan bien el defensor logró detectar y reconstruir el incidente.
Se trata de una evolución natural de una práctica conocida desde hace años. Tradicionalmente, las organizaciones evaluaban sus capacidades defensivas mediante ejercicios de Red Team, pruebas de penetración o simulaciones de adversarios. Hoy, los agentes autónomos de IA pueden realizar estos ejercicios con mucha mayor frecuencia, siempre que se ejecuten en entornos controlados, con límites claramente definidos y sin poner en riesgo los sistemas productivos.
¿Qué significa esto para las organizaciones?
- Incorporar inteligencia artificial en un SOC no garantiza, por sí solo, una mejor defensa. Un agente puede analizar alertas, ejecutar consultas o generar reportes, pero seguirá dependiendo de la calidad de la telemetría, de la claridad de sus objetivos, del diseño de sus permisos y de los mecanismos de supervisión establecidos.
- Los agentes defensivos deberán enfrentarse a escenarios realistas. No basta con comprobar si reconocen una técnica del marco MITRE ATT&CK. También deben demostrar que pueden reconstruir una intrusión completa, conservar el contexto, identificar movimientos laterales, ampliar el alcance de la investigación y recomendar acciones efectivas de contención.
- La autonomía debe incorporarse de forma gradual. En una primera etapa, un agente puede recopilar información, enriquecer alertas, construir líneas de tiempo y generar hipótesis. Más adelante podrá ejecutar consultas, proponer acciones de respuesta o automatizar tareas previamente autorizadas.
Estos tres elementos conforman una agenda práctica para comenzar a incorporar agentes defensivos en los centros de operaciones de ciberseguridad.
Una nueva forma de fortalecer la ciberdefensa
Desde Indramind proponemos cinco acciones para mejorar la efectividad tanto del Blue Team como del Red Team en un entorno donde los agentes autónomos serán cada vez más comunes.
- Definir claramente qué decisiones puede tomar un agente y cuáles deben ser siempre autorizadas por humanos.
- Probar los agentes en laboratorios o entornos aislados antes de permitirles interactuar con infraestructura productiva.
- Utilizar simulaciones de ataque para evaluar no sólo la capacidad de detección, sino también la calidad de la investigación y de la respuesta.
- Medir indicadores concretos, como la cobertura del ataque, la precisión de las conclusiones, el tiempo de investigación, las acciones omitidas, los falsos positivos y el costo computacional.
- Mantener una trazabilidad completa de las decisiones del agente, de modo que la organización pueda explicar qué información utilizó, qué hipótesis formuló, qué acciones recomendó y por qué llegó a determinada conclusión.
En este contexto, el trabajo del Red Team y del Blue Team no debe entenderse como una guerra entre máquinas, sino como una nueva forma de entrenar, evaluar y fortalecer las capacidades de ciberseguridad.
Los agentes ofensivos mostrarán cómo puede actuar un atacante, mientras que los agentes defensivos deberán aprender a observar esos movimientos, reconstruirlos y detenerlos. Sin embargo, la responsabilidad final seguirá siendo humana.
Si bien la IA puede acelerar las investigaciones, descubrir relaciones difíciles de identificar y reducir la carga operativa de los analistas, las organizaciones seguirán necesitando mecanismos sólidos de gobierno, límites claros para la autonomía, supervisión permanente y procesos transparentes de rendición de cuentas.
La pregunta de fondo, entonces, sigue abierta: ¿seremos capaces de desarrollar, gobernar y supervisar agentes defensivos con la misma velocidad con la que evolucionan las capacidades ofensivas? De esa respuesta dependerá si la inteligencia artificial se convierte en una ventaja real para los defensores o en un nuevo factor que amplíe la brecha entre quienes atacan y quienes buscan proteger a las organizaciones.
Add a Comment