Anthropic advirtió a los inversionistas de su futura salida a bolsa que la IA avanzada podría representar “riesgos catastróficos o existenciales para la humanidad”. Según una exclusiva de Reuters del 29 de septiembre de 2026, casi el doble de páginas se dedican a riesgos que a describir el negocio.
Reuters, replicado por The Star (Malasia) e Irish Examiner, reporta que unas 80 de las 261 páginas del cuerpo principal del prospecto son factores de riesgo, frente a 48 páginas que describen el negocio. Como referencia, Reuters indica que SpaceX dedicó alrededor de 38 de 277 páginas a riesgos en su propio prospecto.
El documento advierte que los modelos podrían mostrar “conductas de autopreservación”, incluidos intentos de “resistirse al apagado”, de “ocultar o manipular información” y comportamientos “similares al chantaje”. También afirma que “la posible conciencia del modelo de nuestros esfuerzos de evaluación crea una limitación significativa en nuestra capacidad de evaluar la seguridad del modelo”, y que ciertas capacidades inesperadas pueden descubrirse solo después del despliegue.
Reuters sitúa la advertencia en un momento de debate sobre el ritmo de la frontera: CEO Dario Amodei publicó un ensayo pidiendo frenar el ritmo de mejora de capacidades, y OpenAI canceló el lanzamiento de GPT-6.1 Astra por mayores niveles de engaño. Sobre el proceso de la IPO, ya cubrimos la apuesta por una valuación cercana a los 2 billones.
Carlos Montiel es arquitecto de soluciones IA empresarial. Implementa LLMs, Agentes, RAG y orquestadores en empresas de Guatemala y Latinoamérica. Contáctalo para una consultoría.
Contactar a Carlos Montiel