Tu playbook de respuesta a incidentes probablemente asume que el sistema comprometido se comporta de forma predecible, que el bug se puede parchear, y que la evidencia vive en un log conocido. Un sistema de IA rompe las tres suposiciones a la vez.
Los frameworks tradicionales de respuesta a incidentes asumen propiedades que los sistemas de IA no tienen: comportamiento determinístico, vulnerabilidades parcheables, y evidencia que vive en lugares familiares como logs de sistema e imágenes de disco. Un modelo de IA puede comportarse de forma distinta ante el mismo input dos veces, un "bug" de comportamiento no siempre tiene un parche claro que lo arregle, y la evidencia de un incidente puede estar dispersa entre prompts, contexto recuperado, y decisiones de un agente que nunca se loguearon con el mismo detalle que una llamada a sistema tradicional.
NIST SP 800-61r3, publicado en abril de 2025, sirve como el framework fundacional de respuesta a incidentes, con MITRE ATLAS extendiéndolo para cubrir vectores de amenaza específicos de IA. El NIST AI RMF aporta las cuatro funciones (Govern, Map, Measure, Manage) como estructura de gobernanza y gestión de riesgo de fondo — ninguno de los dos reemplaza al otro, se complementan.
La disciplina emergente de IR para IA incluye responder a incidentes que apuntan a los sistemas de IA mismos: envenenamiento de modelo, prompt injection, ataques adversariales sobre pipelines de ML, y exfiltración de datos de entrenamiento — categorías de incidente que un playbook de seguridad tradicional, diseñado para malware o intrusión de red, simplemente no contempla.
2026 es el año en que se cruzan dos trayectorias: la madurez operativa de la IA agéntica por un lado, y la entrada en vigor de un marco regulatorio vinculante (la EU AI Act) por el otro. A medida que los LLMs pasan de pilotos a aplicaciones de cara al cliente y agentes autónomos, los incidentes de seguridad que involucran sistemas de IA dejaron de ser hipotéticos — y ahora también hay obligación legal de reportarlos en ciertas jurisdicciones.
Un playbook de respuesta a incidentes de IA es un sistema operativo repetible para detectar, contener, y recuperarse de fallas en sistemas de IA, construido predefiniendo los disparadores, dueños, fuentes de evidencia, opciones de contención, verificaciones de recuperación, y canales de comunicación — antes de que ocurra el incidente, no durante. La diferencia entre una empresa que contiene un incidente de IA en horas y una que tarda semanas casi siempre se reduce a si ese trabajo de definición se hizo con anticipación o se está improvisando en tiempo real.
Carlos Montiel es arquitecto de soluciones IA empresarial. Implementa LLMs, Agentes, RAG y orquestadores en empresas de Guatemala y Latinoamérica. Contáctalo para una consultoría.
Contactar a Carlos Montiel