Elegir el modelo de embeddings más barato sin revisar si tu caso de uso es multilingüe es una de las formas más comunes de degradar silenciosamente la calidad de un sistema RAG en Bedrock.
Titan Embeddings V2 cuesta $0.00002 por 1,000 tokens y produce vectores de 1024 dimensiones — pero soporta tamaños de embedding flexibles (1024, 512, 256) manteniendo precisión incluso en dimensiones más chicas: al reducir de 1024 a 512 dimensiones retiene aproximadamente 99% de precisión de recuperación, y al reducir a 256 dimensiones mantiene 97%. Es una opción atractiva cuando el espacio de almacenamiento vectorial importa (menos dimensiones = menos storage y búsquedas más rápidas).
Cohere Embed cuesta $0.0001 por 1,000 tokens — cinco veces más que Titan para cargas de trabajo en inglés — pero soporta múltiples formatos de salida (float, int8, uint8, binary, ubinary) con dimensiones configurables de 256 a 1536, y está diseñado específicamente para recuperación cruzada entre idiomas, mapeando texto en más de 100 idiomas al mismo espacio vectorial.
Titan pone más énfasis en semántica a nivel de oración, lo que lo hace menos sensible a ruido en el input — maneja bien errores tipográficos menores o variaciones de escritura. Cohere Embed English v3 se enfoca en diferenciación de texto más fina, a costa de menor tolerancia a errores tipográficos. Para un sistema RAG que indexa contenido generado por usuarios (con errores de tipeo reales), esta diferencia puede importar más que el precio.
Para cargas de trabajo exclusivamente en inglés sin necesidad de recuperación cruzada de idiomas, Titan es la opción más económica sin sacrificio significativo de calidad. Para cualquier sistema RAG que necesite buscar en múltiples idiomas o recuperar contenido en un idioma distinto al de la consulta, Cohere es la única de las dos opciones que realmente resuelve ese problema — ahí el costo 5x mayor no es la variable relevante, la capacidad multilingüe sí lo es.
Carlos Montiel es arquitecto de soluciones IA empresarial. Implementa LLMs, Agentes, RAG y orquestadores en empresas de Guatemala y Latinoamérica. Contáctalo para una consultoría.
Contactar a Carlos Montiel