En vez de que un desarrollador decida a mano qué modelo usar para cada tipo de prompt, el model router de Azure lo decide por vos, en tiempo real, basado en qué tan compleja es realmente la solicitud.
El model router para Microsoft Foundry es un modelo de chat desplegable que selecciona automáticamente el mejor modelo subyacente para responder a un prompt dado. Enruta automáticamente las solicitudes de inferencia al mejor modelo disponible según la complejidad del prompt, los objetivos de latencia, y la eficiencia de costo — sin que el desarrollador tenga que tomar esa decisión manualmente en cada llamada.
Tu aplicación envía una solicitud de inferencia al deployment de Model Router. El router analiza la solicitud (complejidad del prompt, cantidad de tokens, capacidades requeridas). Selecciona el modelo más apropiado del pool disponible. Es un modelo de ML construido específicamente para este propósito, entrenado con cientos de miles de ejemplos a través de escenarios diversos — desde prompts simples hasta workflows agénticos complejos.
El model router ya soporta 28 modelos. La versión 2025-11-18 agregó soporte para siete modelos nuevos: gpt-5.4, gpt-5.4-mini, gpt-5.4-nano, gpt-5.3-chat, gpt-5.5, claude-opus-4-7, y grok-4.1-fast-reasoning — es notable que el router ya cruza fronteras de proveedor, no se limita solo a la familia GPT.
Prompts simples se enrutan a modelos más chicos y baratos; prompts complejos van a modelos más capaces (y más caros) — automáticamente. Además, el model router ahora incluye failover automático integrado: si el modelo elegido falla o no está disponible, el sistema redirige la solicitud sin que la aplicación tenga que manejar ese caso de error explícitamente.
El router tiene sentido cuando tu aplicación recibe un volumen alto de prompts con complejidad muy variable y no querés mantener lógica de ruteo propia. Para aplicaciones con un patrón de uso predecible y homogéneo (por ejemplo, un único caso de uso bien definido como clasificación de tickets), elegir el modelo manualmente y fijarlo suele dar más previsibilidad de costo y comportamiento que delegar la decisión a un sistema automático, aunque sea a costa de perder la optimización dinámica.
Carlos Montiel es arquitecto de soluciones IA empresarial. Implementa LLMs, Agentes, RAG y orquestadores en empresas de Guatemala y Latinoamérica. Contáctalo para una consultoría.
Contactar a Carlos Montiel