Gobernanza de IA no es un documento de políticas: en Azure es un conjunto de controles técnicos concretos que se activan por configuración, se auditan y se pueden probar en cada despliegue.
Microsoft estructura su enfoque de IA responsable en cuatro fases operativas: map (identificar riesgos específicos del caso de uso antes de construir), measure (evaluar el sistema con métricas cuantitativas de seguridad y calidad), mitigate (aplicar controles técnicos como filtros de contenido y prompts de sistema reforzados), y operate (monitorear en producción con alertas y logging de incidentes). Este marco no es solo conceptual: cada fase tiene herramientas específicas dentro de AI Foundry, no queda en diapositivas.
Content Safety analiza texto e imágenes en cuatro categorías (odio, violencia, contenido sexual, autolesión) con cuatro niveles de severidad configurables por categoría. Se invoca como servicio independiente o viene integrado automáticamente en cada llamada a Azure OpenAI Service. También incluye detección de protected material (código y texto con derechos de autor conocidos) y un servicio de moderación de contenido generado por el propio usuario final antes de que llegue al modelo.
Prompt Shields es un clasificador especializado que detecta dos tipos de ataque distintos: jailbreaks directos (el usuario intenta manipular al modelo para ignorar sus instrucciones de sistema) e inyección de prompt indirecta (instrucciones maliciosas ocultas dentro de un documento, correo o página web que el agente procesa como contexto, sin que el usuario las haya escrito). Este segundo vector es especialmente relevante para agentes con herramientas de búsqueda web o file search, donde el contenido recuperado es una superficie de ataque real.
El servicio de groundedness detection compara la respuesta generada contra el material fuente proporcionado (los documentos recuperados en un RAG, por ejemplo) y señala afirmaciones no respaldadas por esa fuente, incluso ofreciendo una versión corregida de la respuesta. Es la herramienta más directa para medir alucinaciones en producción sin depender de revisión manual constante, y se integra como evaluador dentro de AI Foundry.
Cada servicio de Azure AI publica una Transparency Note: documentación específica sobre capacidades previstas, limitaciones conocidas, y consideraciones de uso responsable para ese servicio en particular. Complementan las model cards del catálogo de modelos, que documentan benchmarks de rendimiento, sesgos evaluados y casos de uso no recomendados. Estos documentos son insumo directo para el análisis de riesgo que exigen marcos como el EU AI Act.
Azure hereda para sus servicios de IA las certificaciones de la plataforma: SOC 1/2/3, ISO/IEC 27001 y 27701, HIPAA con Business Associate Agreement disponible, FedRAMP High en Azure Government, y PCI DSS. Frente al EU AI Act, Microsoft publica guías de mapeo de sus controles existentes (Content Safety, evaluación, documentación de modelos) contra las obligaciones de sistemas de IA de alto riesgo, aunque la responsabilidad legal final de clasificación y cumplimiento sigue siendo del desplegador del sistema, no del proveedor de la plataforma.
En el plano operativo, Azure Policy permite bloquear a nivel de suscripción la creación de recursos de IA fuera de regiones aprobadas o sin Private Link configurado, mientras que el Responsible AI dashboard dentro de Azure Machine Learning corre análisis de equidad (fairness) y explicabilidad sobre modelos, particularmente relevante en casos de scoring o decisión automatizada donde un regulador puede exigir justificación de por qué el sistema decidió algo.
Carlos Montiel es arquitecto de soluciones IA empresarial. Implementa LLMs, Agentes, RAG y orquestadores en empresas de Guatemala y Latinoamérica. Contáctalo para una consultoría.
Contactar a Carlos Montiel