CoreWeave anunció el 16 de septiembre que puso en marcha el primer clúster multi-rack de NVIDIA Vera Rubin NVL72 del mercado, conectando cientos de GPUs Rubin en un solo dominio de cómputo diseñado específicamente para cargas de trabajo agénticas. Es la primera vez que un proveedor de nube valida y activa esta arquitectura a esta escala.
Cada rack Vera Rubin NVL72 integra 72 GPUs NVIDIA Rubin junto con 36 CPUs NVIDIA Vera, tarjetas de red ConnectX-9 SuperNIC y DPUs BlueField-4, todo enfriado por líquido y unificado en un solo dominio de memoria HBM4 de 20.7 TB. Lo que hizo CoreWeave fue conectar múltiples racks de este tipo mediante redes NVIDIA Spectrum-X Ethernet, formando un único clúster escalable de cientos de GPUs en lugar de racks aislados entre sí.
Las cargas de trabajo agénticas —donde un modelo ejecuta razonamiento en varios pasos, invoca herramientas y encadena llamadas repetidas— son especialmente sensibles a la latencia de acceso a datos, porque los retrasos se acumulan en cada paso de la cadena. Al unificar cientos de GPUs en un solo clúster de gran ancho de banda en lugar de depender de racks aislados, CoreWeave apunta directamente a reducir esa latencia acumulada para entrenamiento e inferencia de agentes a gran escala.
CoreWeave ha construido buena parte de su posicionamiento como neocloud especializado en IA sobre ser de los primeros en desplegar cada generación de hardware NVIDIA a escala de producción, antes que los hiperescaladores tradicionales. Ser el primero en validar el Vera Rubin NVL72 en configuración multi-rack refuerza ese posicionamiento frente a competidores como Lambda o los propios AWS/Azure/GCP, que suelen tardar más en ofrecer generaciones nuevas de GPU en configuraciones de máxima escala.
Para empresas en Guatemala y Latinoamérica, el acceso directo a hardware Vera Rubin sigue siendo remoto —este tipo de clúster está pensado para laboratorios frontera y grandes empresas que entrenan o sirven modelos a escala masiva, no para el caso de uso típico regional—. Pero el efecto indirecto sí llega: a medida que más proveedores de nube validan generaciones nuevas de GPU más rápido, los precios de cómputo de generaciones anteriores (Hopper, Blackwell) tienden a bajar más rápido también, porque quedan liberadas para cargas de trabajo de menor escala. Empresas que hoy rentan GPUs para fine-tuning o inferencia deberían revisar periódicamente si conviene migrar a instancias de generación anterior más baratas en lugar de asumir que el precio de la GPU que contrataron hace un año sigue siendo competitivo.
Carlos Montiel es arquitecto de soluciones IA empresarial. Implementa LLMs, Agentes, RAG y orquestadores en empresas de Guatemala y Latinoamérica. Contáctalo para una consultoría.
Contactar a Carlos Montiel