Nvidia sigue dominando el entrenamiento de modelos de frontera. Pero OpenAI acaba de mostrar números que sugieren que en inferencia — la parte que factura cada vez que alguien usa ChatGPT — un chip diseñado a medida puede ganarle en su propio terreno.
OpenAI presentó su primer procesador de inferencia diseñado internamente y fabricado en colaboración con Broadcom, con nombre en código "Jalapeño". A diferencia de una GPU de propósito general como las de Nvidia, este chip fue diseñado específicamente para las necesidades de los sistemas de inferencia de OpenAI — es decir, para servir respuestas de modelos ya entrenados, no para entrenarlos.
Richard Ho, VP de Hardware de OpenAI, lo resumió así: el chip "logra alto throughput y baja latencia simultáneamente, algo inédito en la industria" — normalmente optimizar uno de esos dos factores implica sacrificar el otro.
Jalapeño solo sirve para inferencia. El dominio de Nvidia en entrenamiento de modelos de frontera sigue intacto — este chip no compite ahí. El despliegue además será gradual: empieza a salir en lo que resta de 2026, con producción en volumen real recién en 2027. No es un reemplazo inmediato de la infraestructura Nvidia de OpenAI, es una segunda vía que reduce dependencia.
Para equipos que consumen modelos vía API en vez de tener infraestructura propia, el efecto esperado es indirecto pero real: más competencia en el mercado de chips de inferencia históricamente presiona los precios de las APIs hacia abajo, y reduce el riesgo de que la disponibilidad de cómputo de un solo proveedor (Nvidia) sea el cuello de botella de toda la industria — el mismo patrón de diversificación que ya vimos con el acuerdo entre AMD y Anthropic.
Carlos Montiel es arquitecto de soluciones IA empresarial. Implementa LLMs, Agentes, RAG y orquestadores en empresas de Guatemala y Latinoamérica. Contáctalo para una consultoría.
Contactar a Carlos Montiel