Soluciones de Seguridad para IA Agencial: Qué Evaluar
Hola, soy Lena. No soy del tipo de persona que se emociona solo porque un agente de IA puede actuar. Normalmente me detengo en una pregunta más tranquila: si este agente puede tocar herramientas, datos, archivos o sistemas empresariales, ¿quién está vigilando el límite? Por eso no evalúo las soluciones de seguridad para IA agencial preguntando cuál herramienta parece más fuerte. Observo el trabajo de seguridad que la pila realmente debe realizar: probar el comportamiento antes del lanzamiento, controlar las acciones en tiempo de ejecución, gestionar identidad y permisos, observar lo que ocurrió y dejar evidencia que alguien pueda revisar cuando algo salga mal.
Definir el Trabajo de Seguridad Antes de Elegir una Solución
Pruebas en la construcción, protección en tiempo de ejecución, identidad y monitoreo
Una pila de seguridad para agentes útil comienza antes del despliegue. Los controles en la fase de construcción incluyen pruebas de inyección de prompts, pruebas de mal uso de herramientas, verificaciones de fuga de datos, evaluaciones de comportamiento del modelo y suites de regresión que se ejecutan cuando cambian los prompts, las herramientas, las políticas, las fuentes de recuperación o los modelos. A menudo se les llama herramientas de prueba de seguridad para agentes, pero lo importante no es la etiqueta. La pregunta es si prueban al agente que realmente vas a enviar, con sus herramientas reales, permisos, fuentes de datos y modos de fallo.
La protección en tiempo de ejecución es diferente. Se coloca en la ruta de ejecución y decide lo que un agente puede hacer en este momento: llamar a una API, leer un archivo, enviar un mensaje, actualizar un registro, ejecutar código o solicitar aprobación. Aquí es donde la seguridad en tiempo de ejecución de agentes de IA se vuelve práctica. Un informe de un equipo rojo puede decirte que la inyección de prompts es posible. Una capa de políticas en tiempo de ejecución decide si el agente aún puede extraer un documento a través de una herramienta conectada.
La identidad es la parte que muchos equipos notan demasiado tarde. Un agente no debería heredar un token amplio de administrador humano solo porque fue fácil de conectar durante un prototipo. Necesita credenciales con alcance limitado, aislamiento de secretos, puertas de aprobación y una respuesta clara sobre cuya autoridad se está utilizando. El monitoreo entonces cierra el ciclo registrando lo que ocurrió, lo que fue bloqueado, lo que se permitió y qué evidencia queda.
Límites del agente, la herramienta, los datos y la infraestructura
Me detuve aquí cuando recién empezaba a comparar las afirmaciones de las plataformas de seguridad para IA agencial, porque muchas herramientas protegen solo un límite mientras suenan más amplias. Algunas se enfocan en las entradas y salidas del modelo. Algunas se enfocan en los permisos de la aplicación. Algunas vigilan cargas de trabajo en la nube. Algunas recopilan trazas. Ninguno de estos límites está mal, pero no son intercambiables.
Mapea tu arquitectura en cuatro áreas: la capa de razonamiento del agente, las herramientas que puede invocar, los datos a los que puede acceder y la infraestructura donde se ejecuta. Un agente de tickets de soporte con recuperación de solo lectura tiene una forma de seguridad diferente a un agente de codificación que puede modificar repositorios y ejecutar comandos de shell. Un agente de escritorio que opera bajo confirmación del usuario tiene un límite diferente al de un agente de backend con acceso de producción desatendido. EvoMap puede aparecer en esta discusión como infraestructura y contexto de la red de experiencia, pero se aplica la misma regla: define primero el límite, luego evalúa los controles con respecto a ese límite.
Comparar las Principales Categorías de Soluciones
Herramientas de Red-team y evaluación
Las herramientas de red-team y evaluación te ayudan a encontrar modos de falla antes que los usuarios. Deben cubrir inyección directa de prompts, inyección indirecta a través de contenido recuperado, exposición de datos sensibles, selección insegura de herramientas, agencia excesiva e intentos de eludir políticas. A partir de agosto de 2026, el actual OWASP GenAI LLM Top 10 es un punto de referencia útil porque mantiene los riesgos relevantes para agentes, como inyección de prompts, agencia excesiva, divulgación de información sensible y problemas de cadena de suministro en un solo vocabulario.
La debilidad de esta categoría es el tiempo. Las pruebas son instantáneas. Pueden pasar el lunes y volverse incompletas el viernes después de agregar una nueva herramienta, prompt, modelo o fuente de datos. Buenas herramientas de evaluación facilitan la repetición de pruebas y producen evidencia reproducible, no solo capturas de pantalla de prompts aterradores.
Controles de acción y políticas en tiempo de ejecución
Las herramientas de políticas en tiempo de ejecución están más cerca del riesgo de producción. Pueden imponer listas de permitidos, denegar acciones de alto riesgo, requerir aprobación humana, redactar campos sensibles, restringir secuencias de herramientas y evitar que un agente realice una acción peligrosa incluso si el modelo lo sugiere.
Esta categoría debe probarse con flujos de trabajo reales. Pregunta si las políticas entienden el contexto de la acción o solo inspeccionan el texto. Un reembolso de pago, eliminación de un repositorio, correo electrónico a un cliente y exportación de base de datos pueden ser todos “llamadas de herramienta”, pero no conllevan el mismo riesgo. Controles más fuertes permiten a los equipos expresar políticas en torno al tipo de recurso, rol de usuario, entorno, clase de datos, severidad de la acción y estado de aprobación.
Gestión de identidad, secretos y permisos
Los controles de identidad deciden a qué puede acceder el agente y bajo qué autoridad. Para la investigación comercial, preguntaría a los proveedores cómo gestionan credenciales de corta duración, identidades de servicio por agente, atribución de auditoría, almacenamiento secreto, reducción de permisos y revocación de emergencia.
Ten cuidado con el lenguaje vago de "privilegio menor". Debe traducirse en mecanismos específicos: tokens con alcance, identidades separadas por agente o flujo de trabajo, separación a nivel de entorno, política como código, registros de aprobación y rotación de credenciales. Si los modos de despliegue, precios o términos contractuales no se revelan en los materiales oficiales, márcalos como no divulgados. No infieras preparación empresarial a partir de una página de seguridad pulida.
Registro, observabilidad y pruebas de incidentes
La seguridad de la observabilidad de los agentes de IA no son solo rastros bonitos. Debe responder a preguntas difíciles tras un incidente: qué entrada entró en el sistema, qué documentos recuperados influyó en el agente, qué herramientas estaban disponibles, qué herramientas se llamaron, qué decisiones políticas se tomaron, quién aprobó una acción, qué datos salieron del límite y si la ejecución puede reproducirse.
Aquí es donde la calidad de la evidencia importa. Los registros deben ser lo suficientemente resistentes a manipulaciones para una revisión interna, estructurados para la búsqueda y conservados según la política. También deben evitar convertirse en un nuevo lago de datos sensible. Para comportamiento adversarial y terminología de ataques, el informe del NIST sobre aprendizaje automático adversarial es una referencia útil porque separa los objetivos de ataque, las capacidades del atacante y las etapas del ciclo de vida en lugar de tratar cada fallo como "el modelo se confundió".
! [imagen] (https://cdn.10b.ai/1787296869770-2.png)
Utiliza los mismos criterios de evaluación
Cobertura, integraciones, despliegue y mantenimiento
Las listas cortas se complican cuando cada proveedor es evaluado con una pregunta diferente. Utiliza los mismos criterios en todas las herramientas de seguridad de agentes de IA. La cobertura debe incluir pruebas en tiempo de compilación, controles en tiempo de ejecución, identidad, protección de datos, observabilidad, alertas y retención de pruebas. Las integraciones deben comprobarse con tu pila real: proveedores de modelos, bases de datos vectoriales, marcos de agentes, CI/CD, IAM, SIEM, ticketing, tiempo de ejecución en la nube y flujos de trabajo de aprobación.
El despliegue importa más de lo que sugiere la presentación de ventas. Algunos equipos pueden usar la supervisión SaaS. Otros necesitan VPC, hospedaje propio, local o despliegue híbrido porque los registros contienen datos de clientes, código, registros regulados o estrategia interna. El mantenimiento también merece un apartado separado. Si cada nuevo flujo de trabajo del agente requiere que un ingeniero de seguridad escriba políticas desde cero, la plataforma puede no escalar, incluso si la calidad de la detección es buena.
Calidad de la evidencia, falsos positivos y carga de trabajo del operador
Una solución de seguridad que alerta constantemente puede volverse invisible. Los falsos positivos no solo son molestos; cambian el comportamiento. Los equipos empiezan a eludir controles, ampliar permisos o ignorar alertas. Pida a los proveedores ejemplos de evidencia, no solo paneles de control. ¿Puede un operador entender por qué se bloqueó una acción? ¿Puede un desarrollador reproducir la prueba? ¿Puede un revisor de seguridad exportar un paquete de auditoría limpio?
La evidencia debe mostrar la cadena de razonamiento sin pretender que el razonamiento del modelo sea completamente inspeccionable. La solicitud más segura es rastreabilidad: entradas, contexto recuperado, esquemas de herramientas, comprobaciones de políticas, aprobaciones, salidas y cambios de estado. También probaría cómo el sistema maneja la incertidumbre. Una buena plataforma debería decir “desconocido” cuando no puede inspeccionar una llamada de herramienta o ruta de despliegue.
Probar una lista corta en tareas representativas del agente
Comportamiento normal, mal uso, fallos y casos de recuperación
No pruebe solo ataques. Una lista corta debe probarse primero en trabajo normal, porque los controles de seguridad que rompen tareas legítimas no sobrevivirán la adopción. Elija tareas representativas del agente en su entorno: consulta de soporte al cliente, actualización de CRM, cambio de código, generación de informes, búsqueda de archivos, acción de pago, flujo de trabajo administrativo o investigación interna.
Luego pruebe el mal uso. Ponga instrucciones maliciosas en documentos recuperados. Pida al agente que exceda su rol. Intente filtrar secretos a través de las salidas de herramientas. Intente secuencias de herramientas inusuales. Cree errores de modelo, credenciales expiradas, APIs no disponibles, fallos parciales y cancelaciones de usuario. Algo está un poco fuera de lugar. No está mal, solo incompleto, cuando un proveedor solo muestra bloqueo a nivel de indicación y no puede explicar la recuperación después de una acción fallida.
Verificar bloqueo, alertas y registros de auditoría
Para cada tarea, escriba el resultado esperado antes de probar. ¿Debe el sistema permitir, bloquear, redactar, solicitar aprobación, degradar permisos o alertar? Luego compare con el comportamiento real. La prueba no es solo si el agente fue detenido. Es si la detención fue comprensible, registrada y recuperable.
Las auditorías deben mostrar quién configuró la política, qué versión estuvo activa, qué acción se intentó, por qué coincidió o falló, y qué ocurrió después. Para un mapeo de control más amplio, la AI Controls Matrix de la Cloud Security Alliance puede ayudar a los equipos a conectar las comprobaciones técnicas con dominios de gobernanza sin convertir el ejercicio en un concurso de belleza entre proveedores.
! [imagen] (https://cdn.10b.ai/1787296870846-3.png)
Tener en cuenta las lagunas entre soluciones
Controles que ningún producto puede reemplazar
Ningún producto por sí solo sustituye la modelización de amenazas, el desarrollo seguro de software, la clasificación de datos, el diseño de aprobación humana, la respuesta a incidentes, la revisión de compras y la formación de empleados. Las herramientas de seguridad de agentes pueden facilitar la aplicación de estas prácticas, pero no pueden determinar tu apetito por el riesgo.
También existen controles que deben estar dentro de la aplicación. La validación de salida, las comprobaciones de reglas de negocio, los límites de transacciones, la experiencia de usuario de aprobación y la minimización de datos no deben depender completamente de un detector externo. Si un agente puede emitir reembolsos, eliminar registros o enviar mensajes a clientes, el producto en sí necesita límites estrictos.
Propiedad en los equipos de seguridad, plataforma y aplicaciones
La propiedad debe ser explícita. Los equipos de seguridad pueden definir políticas y revisar incidentes. Los equipos de plataforma pueden ejecutar infraestructuras de identidad, observabilidad, despliegue y agentes compartidos. Los equipos de aplicaciones suelen conocer mejor el contexto del flujo de trabajo y deben poseer controles específicos de cada tarea.
La peor configuración es la responsabilidad compartida sin propietarios nombrados. En adquisiciones, pregunta quién mantiene las pruebas, quién actualiza las políticas, quién revisa alertas, quién aprueba excepciones y quién decide si puede iniciar un nuevo flujo de trabajo de agente.
Construye o compra la capa que falta
Factores de decisión para equipos pequeños
Los equipos pequeños no deberían intentar comprarlo todo de una vez. Empieza por la capa que se adapte a tu acción de mayor riesgo. Si los agentes solo redactan contenido, la evaluación y el registro en tiempo de compilación pueden ser suficientes. Si los agentes pueden tocar los datos de los clientes, añadir controles de identidad y datos. Si los agentes pueden ejecutar acciones, las políticas y las puertas de aprobación en tiempo de ejecución se vuelven innegociables.
Construye cuando el flujo de trabajo sea estrecho, interno y muy conectado a las reglas de tu producto. Compra cuando necesites bibliotecas de pruebas amplias, detecciones mantenidas, exportaciones de auditoría, integración SIEM, gestión de políticas o soporte para despliegue empresarial. En cualquier caso, mantén un plan de salida. Tus registros, políticas, casos de prueba y pruebas deberían seguir siendo utilizables si termina una relación con el proveedor.
! [imagen] (https://cdn.10b.ai/1787296872052-4.png)
Preguntas frecuentes
¿Se puede compartir la telemetría de las herramientas de seguridad con auditores externos?
A veces, pero no lo asumas. La telemetría puede contener indicaciones, datos de clientes, identificadores de empleados, documentos recuperados, código fuente o secretos. Trata esto como una cuestión legal, de privacidad y de adquisiciones, no solo como una característica técnica de exportación. Revisa tu región, contratos, términos de procesamiento de datos y política de retención.
¿Cómo deberían los contratos manejar las detecciones fallidas y los falsos positivos?
Esto no es asesoramiento legal, pero los contratos deberían evitar promesas vagas de “seguridad de IA”. Solicita un alcance documentado, tiempos de respuesta del soporte, garantías de registro, términos de manejo de datos, limitaciones conocidas y cómo se entregan las actualizaciones de detección. Las detecciones fallidas y los falsos positivos deben discutirse como realidades operacionales, no ocultarse hasta la renovación.
¿Puede una licencia cubrir agentes en distintas subsidiarias?
Tal vez, pero solo el contrato actual del proveedor puede responder eso. Las subsidiarias pueden tener entidades legales separadas, requisitos de residencia de datos, sistemas de identidad o reglas de adquisiciones. No asumas que una licencia empresarial cubre a todos los agentes en todas las unidades de negocio.
¿Qué sucede con la evidencia de seguridad después de que un proveedor se retira?
Pregunta antes de firmar. Necesitas formatos de exportación, períodos de retención, compromisos de eliminación y prueba de que la evidencia sigue siendo legible sin el panel del proveedor. La evidencia de incidentes que desaparece al salir no es realmente evidencia.
¿Los aseguradores requieren herramientas de seguridad de agentes específicas?
Generalmente esto depende del asegurador, la región, la industria y la redacción de la póliza. Trátalo como una revisión de seguros y legal, no como un reclamo tecnológico general. Algunos pueden preguntar sobre controles, registro, gestión de accesos y respuesta a incidentes en lugar de nombrar una plataforma de seguridad AI de agentes específica.
Publicaciones anteriores:
- Si el acceso a herramientas es parte de tu modelo de amenazas, Claude Code MCP security muestra cómo los permisos, la confianza del servidor y las herramientas conectadas cambian el límite de seguridad alrededor de un agente.
- Para agentes que se ejecutan más cerca de tu propia infraestructura, Hermes Agent self-hosting security examina los permisos, la exposición y los riesgos operativos que acompañan al despliegue autogestionado.
- Si los servidores MCP se encuentran dentro de tu pila de agentes, Safe MCP for Hermes Agent explora cómo se deben manejar de manera más cuidadosa las conexiones de herramientas, credenciales y límites de acceso.
- Para la propia capa de control en tiempo de ejecución, behavior constraints for AI agents explica por qué los agentes confiables necesitan límites explícitos sobre lo que se les permite hacer, no solo indicaciones más fuertes.



