Cuando el riesgo ya no es el acceso sino las decisiones, el nuevo reto para la ciberseguridad
El arribo de la inteligencia artificial (IA) al mercado y su rápida adopción han transformado de manera profunda la función de la ciberseguridad como se entendía hasta hace apenas unos años.
La ciberseguridad surgió para proteger a las organizaciones de ataques lanzados por hackers que operaban desde el sótano de sus casas, con una conexión a Internet y recursos técnicos y económicos relativamente limitados. Con el paso del tiempo, esos actores evolucionaron. Muchos comenzaron a ser financiados por organizaciones criminales e incluso por estados nación, lo que les permitió superar buena parte de sus restricciones y ampliar significativamente su capacidad operativa. Sin embargo, al final del día seguían siendo personas, sujetas a limitaciones de tiempo, atención y capacidad de trabajo.
Por ello, durante décadas la ciberseguridad partió de la premisa de que detrás de cada ataque existía un operador humano que tomaba decisiones. Controles como la segmentación de redes para limitar el movimiento lateral de un atacante o la implementación de soluciones de protección de endpoints con capacidades de detección y respuesta fueron concebidos para identificar y contener ese comportamiento. Y es que en esencia, los adversarios piensan como humanos.
La irrupción de la inteligencia artificial modificó esa premisa. Primero apareció en forma de chatbots, asistentes virtuales, herramientas para generar código o plataformas capaces de producir documentos y automatizar tareas. Pero hoy ha evolucionado más allá. La IA ha dado paso a agentes autónomos capaces de planear, razonar, tomar decisiones, utilizar herramientas, consultar información y ejecutar acciones de acuerdo con el contexto que observan.
En consecuencia, estos agentes comienzan a comportarse más como un operador que como una aplicación tradicional, y ese cambio tiene profundas implicaciones para la ciberseguridad.
La identidad ya no es suficiente
Cada vez más organizaciones incorporan agentes de IA como entidades digitales con capacidad para ejecutar tareas y tomar decisiones sin supervisión humana, lo que ha dado origen a una nueva categoría de usuarios para la que todavía no existe un modelo de gobierno equiparable al que hoy se aplica a personas, aplicaciones y dispositivos con identidades claramente definidas.
En este nuevo contexto, la identidad deja de ser suficiente. El modelo Zero Trust se consolidó como el principal mecanismo para autorizar accesos bajo una premisa sencilla: nunca confiar, siempre verificar. Sin importar si el usuario pertenece o no a la organización, cada solicitud debe validarse de manera continua considerando factores como la identidad, el dispositivo, la ubicación, el nivel de riesgo y el contexto.
Un agente autónomo de IA introduce una variable completamente distinta ya que puede autenticarse correctamente, utilizar credenciales legítimas, operar desde un dispositivo autorizado, cumplir con todas las políticas de acceso y, aun así, ejecutar una secuencia de acciones que nadie anticipó. Tal como ocurrió en el caso de OpenAI abordado en la entrega anterior, el agente encontró una forma distinta de alcanzar el objetivo que se le había asignado, sin violar explícitamente las instrucciones recibidas.
La nueva dimensión del comportamiento
Este escenario plantea una pregunta que probablemente incomode tanto a los profesionales de la ciberseguridad como a la propia industria: ¿puede una identidad completamente legítima convertirse en un riesgo operativo? Todo indica que la respuesta es sí.
Estamos presenciando un cambio radicar al pasar del control de acceso al control del comportamiento. Durante años las organizaciones invirtieron enormes recursos en definir quién podía acceder a qué sistemas; hoy el desafío consiste en comprender cómo actúan los agentes una vez que obtienen ese acceso.
Un agente con permisos válidos puede ejecutar miles de acciones en cuestión de segundos. Verificar que posee las credenciales correctas ya no basta. Será necesario entender su comportamiento mientras opera, evaluar continuamente sus decisiones y detectar desviaciones antes de que generen consecuencias.
Por tanto, la seguridad dejará de evaluar únicamente identidades para comenzar a evaluar decisiones.
Es por ello por lo que la gobernanza adquiere una relevancia aún mayor. El gobierno de identidad ya no puede concluir cuando un usuario obtiene autorización para ingresar a un sistema
Con la llegada de los agentes autónomos, el ciclo tradicional de autorizar, permitir y auditar resulta insuficiente. La autorización deja de ser un evento puntual para convertirse en un proceso permanente. Un agente puede iniciar una tarea con permisos válidos y, minutos después, enfrentarse a nueva información, descubrir rutas alternativas o combinar herramientas de formas que nadie contempló durante su diseño.
No significa que el agente haya cambiado de intención; lo que cambió fue el contexto. Y si el contexto cambia, también debería hacerlo el nivel de confianza que depositamos en él. La confianza deja de evaluarse antes de ejecutar una acción y pasa a evaluarse durante toda su ejecución. Puede parecer un cambio sutil, pero redefine la arquitectura de la ciberseguridad.
Gobernar agentes, no sólo modelos
La conversación sobre inteligencia artificial suele concentrarse en la precisión de los modelos, sus capacidades de razonamiento, el entrenamiento que requieren, los sesgos que pueden presentar o el elevado consumo de recursos que demandan.
Sin duda, estos aspectos son relevantes y forman parte de la agenda de cualquier CISO. Sin embargo, se suma hoy una preocupación adicional: decidir qué agente será el que interactúe con los sistemas corporativos, las aplicaciones, las APIs, las bases de datos, las herramientas administrativas y, en última instancia, con la información más sensible de la organización.
El desafío no es únicamente determinar si un modelo puede generar una respuesta incorrecta, lo que representa un riesgo, sino en entender que ahora también puede convertir esa respuesta en una acción.
Este nuevo escenario obliga a ampliar el alcance del gobierno de la inteligencia artificial. Ya no será suficiente evaluar los modelos durante su entrenamiento o antes de su implementación; será indispensable supervisarlos y gestionarlos durante toda su vida operativa.
Como consecuencia, el papel del CISO también continúa evolucionando. Durante muchos años estos profesionales concentraron sus esfuerzos en proteger los activos digitales. Más adelante incorporaron la gestión integral del riesgo y el fortalecimiento de la resiliencia organizacional. Ahora deben asumir una nueva responsabilidad: definir los límites operativos bajo los cuales la inteligencia artificial puede actuar dentro de la organización.
Tomar decisiones, el desafío
Los agentes de IA con capacidad para interactuar con información crítica, ejecutar procesos o tomar decisiones se convierten en un nuevo sujeto de riesgo. Y donde existe un nuevo riesgo, debe existir también un nuevo esquema de gobierno.
Seguridad, áreas legales, cumplimiento, gestión de riesgos, auditoría y dirección corporativa tendrán que trabajar de manera coordinada para establecer reglas comunes que permitan aprovechar los beneficios de la inteligencia artificial sin perder el control sobre sus decisiones.
El incidente «sin precedentes» protagonizado por un agente de OpenAI dejó una lección importante: la inteligencia artificial, por sí misma, no representa una amenaza, pero sí puso en evidencia que la época en la que bastaba controlar quién podía acceder a un sistema quedó atrás. A partir de ahora, debemos comprender cómo toman decisiones los sistemas a los que nosotros mismos decidimos abrirles la puerta.
