Pedirle aprobación humana a un agente para cada acción que toma anula el propósito de automatizarlo. Pedírsela para la acción equivocada puede costarte mucho más caro que la fricción que ahorraste.
Human-in-the-loop es selectivo, no universal — aplica a acciones específicas de alto riesgo y difíciles de revertir. Exigir aprobación para cada acción anula el propósito mismo de automatizarla: si un agente necesita luz verde humana para cada paso, no es un agente, es un formulario con pasos extra.
El factor decisivo es el radio de daño (blast radius), no qué tan avanzado es el agente — qué tan difícil sería revertir una acción que está por tomar importa más que su nivel de capacidad general. Un agente extremadamente sofisticado ejecutando una acción trivial y reversible no necesita supervisión humana; un agente simple ejecutando una transferencia irreversible sí.
A medida que los agentes de IA pasan de asistentes de búsqueda de solo lectura a sistemas operativos capaces de modificar el estado de la empresa, la autonomía completa introduce riesgo significativo — particularmente cuando los agentes pueden ejecutar transferencias financieras, enviar emails externos a clientes, alterar registros de bases de datos, o reconfigurar infraestructura de nube. Efectos secundarios irreversibles (como parámetros alucinados en una mutación de base de datos) y requisitos de cumplimiento en industrias reguladas exigen rastros de autorización humana explícitos y demostrables.
El Artículo 14 de la EU AI Act y el NIST AI RMF exigen ambos supervisión humana demostrable, entrenada, medible, y comprobable — no basta con decir "hay un humano en el loop", hace falta poder demostrarlo con evidencia auditable. Los requisitos de sistemas de alto riesgo de la EU AI Act tienen alcance extraterritorial, y la SB-833 de California suma requisitos a nivel estatal a partir del 1 de julio de 2026.
El diseño correcto mantiene los flujos agénticos rápidos para trabajo de bajo riesgo, mientras aplica compuertas de aprobación estrictas para acciones que son irreversibles, reguladas, o de alto radio de daño. En la práctica, esto significa clasificar de antemano —no improvisar en el momento— qué categorías de acción de tu agente específico caen en cada balde, y construir el punto de aprobación directamente en el flujo para esas categorías, dejando el resto corriendo a velocidad completa.
Carlos Montiel es arquitecto de soluciones IA empresarial. Implementa LLMs, Agentes, RAG y orquestadores en empresas de Guatemala y Latinoamérica. Contáctalo para una consultoría.
Contactar a Carlos Montiel