Construir un agente no es solo llamar a un LLM en bucle: es gestionar estado conversacional, herramientas, memoria y, cada vez más, otros agentes. AI Foundry Agent Service administra esa complejidad para que el equipo se enfoque en la lógica de negocio.
AI Foundry Agent Service (antes Azure AI Agent Service) toma el modelo conceptual de la Assistants API de OpenAI —threads persistentes, ejecuciones asíncronas, herramientas invocables por el modelo— y lo convierte en un servicio administrado dentro de Azure, con la diferencia clave de que el estado, los archivos y las conexiones a datos viven dentro del perímetro de seguridad del cliente, no en un almacenamiento genérico de terceros.
Un agente se define una vez (modelo, instrucciones, herramientas) y luego se reutiliza a través de threads, cada uno representando una conversación independiente con su propio historial. Al enviar un mensaje se dispara un run: el servicio decide si el modelo responde directamente o invoca una o más herramientas, ejecuta esas llamadas, y continúa el ciclo hasta producir una respuesta final. Este modelo separa limpiamente la definición del agente de sus instancias de conversación, lo que simplifica escalar el mismo agente a miles de usuarios concurrentes.
El servicio incluye herramientas listas para usar: code interpreter (ejecuta Python en un sandbox aislado para cálculos o análisis de datos), file search (indexación y recuperación automática sobre archivos subidos), Bing grounding (respuestas fundamentadas en resultados de búsqueda web actuales), la herramienta de Azure AI Search para RAG sobre índices propios, y soporte para herramientas OpenAPI y Azure Functions que permiten invocar cualquier API interna documentada con una especificación estándar, sin escribir código de integración a mano.
Connected Agents permite que un agente principal delegue subtareas a agentes especializados —uno para búsqueda documental, otro para cálculos financieros, otro para redacción— registrándolos como herramientas del agente orquestador. El servicio administra el enrutamiento de la conversación entre agentes, evitando que el equipo tenga que implementar a mano una máquina de estados de orquestación multiagente.
Existen dos modos de aprovisionamiento. El setup básico usa recursos administrados por Microsoft para almacenamiento de threads y archivos, ideal para prototipado rápido. El setup estándar (bring-your-own) conecta el agente a una cuenta de Storage, un servicio de Azure AI Search y una cuenta de Cosmos DB propios del cliente, dentro de su VNet, lo cual es obligatorio en cargas de trabajo reguladas donde los datos de conversación no pueden residir en infraestructura compartida gestionada solo por Microsoft.
Para escenarios que exceden lo que Connected Agents resuelve nativamente —flujos de aprobación complejos, agentes que corren en runtimes distintos, lógica de negocio pesada en el orquestador— Semantic Kernel Agent Framework y AutoGen se integran directamente con agentes creados en AI Foundry, permitiendo tratar a un agente del servicio como un participante más dentro de una orquestación multiagente construida en código.
Cada run queda trazado con OpenTelemetry, visible en Application Insights: tokens consumidos, herramientas invocadas, latencia por paso. Esto es indispensable para detectar agentes que entran en bucles de llamadas a herramientas (un problema común y costoso en producción) y para atribuir costo de tokens por agente y por cliente cuando el mismo servicio atiende a múltiples líneas de negocio.
Carlos Montiel es arquitecto de soluciones IA empresarial. Implementa LLMs, Agentes, RAG y orquestadores en empresas de Guatemala y Latinoamérica. Contáctalo para una consultoría.
Contactar a Carlos Montiel