Un agente de IA con acceso real a sistemas de producción toma una decisión que causa un daño. ¿Quién responde: quien lo entrenó, quien lo desplegó, o quien lo dejó actuar sin supervisión? La respuesta legal, hoy, es "depende" — y ese "depende" todavía no está bien resuelto en ningún lado.
La Comisión Europea había propuesto en 2022 una Directiva de Responsabilidad de IA específica, pensada para complementar la EU AI Act y la Directiva de Responsabilidad de Producto. En 2025, esa propuesta se retiró — reflejando desacuerdo político persistente sobre cuál es la arquitectura legal correcta para asignar responsabilidad por daños causados por IA. No hay, hoy, una ley europea dedicada específicamente a esto.
Ante ese vacío, la responsabilidad se distribuye entre marcos ya existentes, según en qué parte de la cadena ocurrió la falla: si el sistema falla por errores técnicos, datos de entrenamiento inválidos o medidas de seguridad inadecuadas, la responsabilidad tiende a caer sobre el desarrollador del modelo. Si una empresa despliega un agente de IA sin controles y monitoreo adecuados, y ocurren errores como resultado, esa empresa puede ser responsable conjunta por incumplir su deber de supervisión.
La responsabilidad de IA se reparte hoy sobre una cadena de actores humanos — desarrolladores del modelo, proveedores de la plataforma, la organización que despliega, y usuarios finales — en proporciones variables según dónde ocurrió la falla. Pero la organización que despliega carga con el peso más grande: las empresas que le dan a un agente de IA autoridad para actuar en su nombre generalmente se tratan como el "principal" responsable de la conducta de ese agente, de forma análoga a cómo respondería por las acciones de un empleado.
Lo que sí avanzó concretamente: la Directiva de Responsabilidad de Producto de la UE, actualizada en 2024, ahora cubre explícitamente software y sistemas de IA como "productos" — lo cual habilita reclamos de responsabilidad objetiva (sin necesidad de probar negligencia) en ciertos casos, llenando parte del vacío que dejó la directiva retirada.
Sin una ley dedicada que resuelva la pregunta de forma clara, la protección práctica más efectiva es la que ya cubrimos en nuestra serie de guardrails: documentar el nivel de supervisión humana sobre cada acción que un agente puede ejecutar, mantener logs de decisiones auditables, y tratar cualquier ampliación de la autonomía de un agente como una decisión de riesgo legal, no solo técnica — porque en ausencia de una ley clara, esa documentación es exactamente lo que va a determinar de qué lado de la responsabilidad conjunta termina una empresa cuando algo sale mal.
Carlos Montiel es arquitecto de soluciones IA empresarial. Implementa LLMs, Agentes, RAG y orquestadores en empresas de Guatemala y Latinoamérica. Contáctalo para una consultoría.
Contactar a Carlos Montiel