Azure AI Foundry es la respuesta de Microsoft a un problema real: construir con IA generativa implica coordinar modelos, datos, evaluación, seguridad y despliegue en un solo ciclo de vida, no en herramientas aisladas.
Microsoft consolidó en noviembre de 2024, durante Ignite, todo lo que antes vivía disperso entre Azure AI Studio, Azure Machine Learning y servicios cognitivos individuales bajo un solo producto: Azure AI Foundry. No es un rebranding cosmético. El cambio real es de modelo mental: en lugar de pensar en "servicios cognitivos" separados (Language, Vision, Speech, OpenAI), AI Foundry organiza todo alrededor de proyectos que consumen un catálogo común de modelos, herramientas de agentes y pipelines de evaluación compartidos.
Para un equipo de ingeniería esto se traduce en menos fricción operativa: un solo control plane de identidad (Microsoft Entra ID), un solo modelo de facturación consolidado y una sola superficie de observabilidad vía Application Insights y Azure Monitor.
La unidad organizativa superior es el hub, un recurso de Azure que centraliza cómputo, configuraciones de red y conexiones a servicios dependientes: Azure AI Search para RAG, Azure Key Vault para secretos, Application Insights para trazas, y storage accounts para artefactos. Dentro de un hub viven uno o más proyectos, que son el espacio de trabajo real donde un equipo despliega modelos, construye agentes y corre evaluaciones.
Esta separación importa en empresas: permite que una plataforma central (gobernada por el equipo de arquitectura, por ejemplo) defina las políticas de red y conexiones a nivel de hub, mientras cada equipo de producto opera con autonomía dentro de su proyecto sin poder saltarse esas barreras.
AI Foundry expone un model catalog que incluye los modelos de Azure OpenAI Service (GPT-4o, GPT-4.1, la serie o1/o3, embeddings text-embedding-3), modelos de Meta (Llama 3.x y 4), Mistral, Cohere, DeepSeek, xAI Grok, y la familia propia Phi de Microsoft optimizada para edge e inferencia económica. Cada modelo se despliega como Model as a Service (endpoint serverless facturado por token) o como managed compute (una instancia GPU dedicada que tú administras y pagas por hora).
La decisión entre ambos no es trivial: serverless es más simple pero menos predecible en costo a gran escala; managed compute da control fino sobre latencia y aislamiento de red pero exige gestión de cuota GPU.
El portal web sirve para prototipado rápido, pero el flujo de producción pasa por el SDK `azure-ai-projects`, que unifica la creación de agentes, la invocación de modelos y la evaluación bajo un cliente común.
AI Foundry integra evaluadores predefinidos (groundedness, relevancia, coherencia, fluidez, similitud) y permite correrlos tanto en desarrollo como en producción sobre trazas reales capturadas vía OpenTelemetry. Esto cierra un vacío histórico: antes evaluar un pipeline RAG requería armar tooling propio con notebooks sueltos; ahora es parte del ciclo de vida del proyecto, con resultados versionados junto al modelo y al prompt que los generó.
Cada proyecto hereda controles de Azure AI Content Safety, Prompt Shields y políticas de red del hub. Se puede exigir Private Link para todo tráfico de inferencia, aplicar Customer-Managed Keys para cifrado en reposo, y usar Azure Policy para bloquear la creación de conexiones a modelos o regiones no aprobadas. Esto es crítico en sectores regulados donde el equipo de seguridad necesita auditar qué modelos se usan y desde qué red, sin depender de que cada equipo de desarrollo lo reporte manualmente.
Si tu organización ya opera en Azure, tiene Microsoft Entra ID como identidad corporativa y necesita más de un modelo o más de un agente en producción, AI Foundry reduce significativamente el costo de integración: un solo control de acceso, una sola facturación, una sola capa de observabilidad. Si el caso de uso es un único endpoint de chat sin necesidad de agentes ni evaluación continua, invocar Azure OpenAI Service directamente sigue siendo válido y más simple. La regla práctica: AI Foundry gana cuando hay más de un modelo, más de un equipo o más de un agente en juego.
Carlos Montiel es arquitecto de soluciones IA empresarial. Implementa LLMs, Agentes, RAG y orquestadores en empresas de Guatemala y Latinoamérica. Contáctalo para una consultoría.
Contactar a Carlos Montiel