Shashank Padala, ingeniero enfocado en la intersección de IA y biología, contó en LinkedIn algo que resume bien el momento actual de la nube de IA: intentó pagarle a Google Cloud por acceso a una NVIDIA A100 — una GPU lanzada en 2020, ya varias generaciones vieja — y no pudo conseguirla. No fue un problema de dinero. Fue un problema de cuota.
Padala quería una A100 para correr experimentos de machine learning. El obstáculo no fue el precio ni la disponibilidad de hardware en el mundo — fue que las cuentas nuevas de Google Cloud tienen restricciones de cuota de GPU por diseño: según la propia documentación de Google, las cuentas de prueba gratuita no reciben cuota de GPU por defecto, y cualquier cuenta nueva debe solicitar explícitamente el aumento de cuota antes de poder lanzar una sola instancia con GPU. Es una barrera administrativa, no una barrera de capacidad real — pero el resultado práctico es el mismo: cero acceso hasta que el proceso de aprobación se resuelva.
Lo llamativo del caso es justamente que la A100 ya no es hardware de punta. Como señaló Padala, el recorrido de NVIDIA en GPUs de IA ha avanzado varias generaciones desde entonces:
Que ni siquiera el hardware de la generación más antigua de esa lista esté fácilmente disponible para una cuenta nueva es la señal real: la demanda de cómputo de IA sigue superando la oferta disponible para desarrolladores individuales y equipos pequeños, incluso en proveedores del tamaño de Google.
Ante esa barrera, Padala recurrió a RunPod, una plataforma especializada en cómputo GPU para IA. RunPod lanzó recientemente a disponibilidad general una función llamada "Deploy When Available": en vez de simplemente rechazar la solicitud cuando una configuración de GPU está completamente rentada, permite ponerse en una cola y desplegar automáticamente el pod en el momento exacto en que se libera capacidad — con una ventana de suscripción configurable (24 horas por defecto) y notificación por consola o correo cuando el recurso queda activo.
Para la mayoría de empresas en Guatemala y la región que no necesitan entrenar modelos desde cero, esto también refuerza un punto que repetimos seguido en este blog: los servicios de IA administrados (Amazon Bedrock, Vertex AI en su modalidad gestionada) evitan por completo este problema de cuota de GPU cruda, porque no rentás la GPU directamente — usás el modelo ya desplegado por el proveedor. La escasez de GPU es un problema real, pero solo te toca directamente si tu caso de uso específicamente requiere acceso a hardware dedicado.
Historia original compartida por Shashank Padala en LinkedIn — gracias por la observación que inspiró esta nota.
Carlos Montiel es arquitecto de soluciones IA empresarial. Implementa LLMs, Agentes, RAG y orquestadores en empresas de Guatemala y Latinoamérica. Contáctalo para una consultoría.
Contactar a Carlos Montiel