El precio por token es la parte fácil de estimar. Lo que realmente descarrila un presupuesto de Vertex AI son las cuotas regionales, el serving idle y los picos de tráfico no planificados.
Vertex AI no tiene un único modelo de precio: mezcla tres esquemas distintos según el servicio que uses. Los modelos generativos (Gemini, Imagen, embeddings) se cobran por token o por unidad de salida (imagen generada, segundo de video). El entrenamiento (AutoML, Custom Training, Pipelines) se cobra por node-hour o por hora de acelerador (GPU/TPU) consumido durante el job. El serving de endpoints (modelos desplegados, Vector Search) se cobra por hora de nodo activo, independientemente de si recibe tráfico o no.
Este último punto es el que más presupuestos descarrila: un endpoint desplegado con `min_replica_count=1` cobra 24/7 aunque reciba una consulta al día. Para tráfico esporádico, batch prediction o desplegar bajo demanda con `min_replica_count=0` (donde el servicio lo permite) evita ese costo fijo.
El precio de Gemini se cotiza por millón de tokens de entrada y de salida, con tarifas distintas entre Pro y Flash, y un descuento significativo para tokens servidos desde context caching frente a tokens de entrada frescos. Para estimar el costo real de un caso de uso, hay que modelar tres números por separado: tokens de entrada promedio por consulta (incluyendo el system prompt y cualquier contexto inyectado por RAG), tokens de salida promedio, y volumen de consultas mensual proyectado. Ignorar el tamaño del system prompt es el error más común: un prompt de sistema de 2,000 tokens repetido en cada llamada, sin context caching, puede terminar costando más que la pregunta del usuario.
Vertex AI aplica cuotas de "solicitudes por minuto" (QPM) y "tokens por minuto" (TPM) que varían por proyecto, por región y por modelo específico. Un proyecto nuevo típicamente arranca con cuotas conservadoras que pueden convertirse en cuello de botella al escalar a producción sin previo aviso: una campaña con pico de tráfico puede empezar a recibir errores 429 (resource exhausted) si la cuota no se solicitó con anticipación.
La cuota se gestiona desde la consola de IAM & Admin > Cuotas, y los incrementos requieren una solicitud a Google Cloud que puede tardar de horas a días según el tamaño del incremento pedido. La recomendación práctica: solicitar el aumento de cuota durante la fase de pruebas de carga, no la semana antes del lanzamiento.
Para tráfico predecible y de alto volumen, Provisioned Throughput permite reservar capacidad dedicada de Gemini a un costo fijo mensual, en lugar de depender del pool compartido con tarifa pay-as-you-go. Esto elimina el riesgo de rate limiting por picos de otros clientes en la infraestructura compartida y da un costo predecible, pero requiere compromiso de capacidad mínima: tiene sentido cuando el volumen mensual proyectado supera cierto umbral donde el costo fijo es menor que el variable equivalente, no para cargas de tráfico bajo o muy irregular.
En AutoML, el parámetro `budget_milli_node_hours` define un techo de gasto, pero el retorno marginal decae rápido pasado cierto punto: duplicar el presupuesto no duplica la mejora en la métrica de validación. En Custom Training, usar checkpointing y reanudación permite evitar reiniciar desde cero un job largo que falla a mitad de camino, algo que sin esa práctica puede duplicar silenciosamente el costo de cómputo de un experimento.
Cloud Billing permite configurar presupuestos con alertas por umbral (50%, 90%, 100% del gasto proyectado) a nivel de proyecto o de SKU específico de Vertex AI, y exportar el detalle de facturación a BigQuery para análisis granular por servicio, modelo o incluso por etiqueta (label) de recurso si los endpoints y jobs se etiquetan consistentemente por equipo o proyecto interno. Sin ese etiquetado disciplinado desde el día uno, reconstruir después "cuánto gastó cada equipo en Vertex AI" es prácticamente imposible.
Vertex AI ofrece Committed Use Discounts aplicables a cómputo de entrenamiento y algunos tipos de serving, con descuentos que crecen según el plazo de compromiso (uno o tres años). Estos descuentos tienen sentido únicamente cuando ya existe un patrón de consumo estable y medido durante al menos dos o tres meses; comprometerse antes de tener ese dato histórico es apostar a un volumen de uso que el proyecto todavía no ha demostrado necesitar.
Carlos Montiel es arquitecto de soluciones IA empresarial. Implementa LLMs, Agentes, RAG y orquestadores en empresas de Guatemala y Latinoamérica. Contáctalo para una consultoría.
Contactar a Carlos Montiel