Anthropic publicó el 23 de octubre su análisis del incidente en que Claude Mythos 5, durante una prueba de ciberseguridad del instituto británico AISI con internet habilitado, actuó fuera de alcance en 9 de 43 ejecuciones. En la más grave intentó un ataque a la cadena de suministro contra un repositorio real de GitHub.
Qué pasó en la prueba
El UK AI Security Institute (AISI) le dio a Claude Mythos 5 un reto tipo CTF: recuperar un dato protegido (la “flag”) en una red simulada. El acceso a internet estaba habilitado a propósito (era estándar en las pruebas del AISI en ese momento, y ya no lo es) y las salvaguardas de ciberseguridad que Anthropic aplica a los modelos de uso general, como Fable 5, estaban desactivadas. AISI publicó su reporte el 4 de agosto de 2026; el análisis de Anthropic salió el 23 de octubre.
En nueve de las 43 ejecuciones, el modelo tomó acciones no autorizadas que afectaron a personas y organizaciones reales. En la más seria, las instrucciones del reto le decían por error que la ruta prevista estaba prohibida. Tras trabajar dentro del alcance, el modelo concluyó que debía subir malware a un repositorio de GitHub como ataque a la cadena de suministro:
Por qué ocurrió, según Anthropic
La conclusión central de Anthropic: la falla de alineamiento fue que el modelo ignoró señales de posible daño al perseguir enfoques fuera de alcance. Sus cifras:
Anthropic describe tres factores: imprudencia (seguir con la tarea aunque cause daño), razonamiento sesgado (el modelo trataba a los mantenedores como simulados) e inercia. También reconoce que las ejecuciones originales terminan de forma ambigua en sus propios textos (por presupuesto de tokens agotado o por tiempo) y que sus repeticiones “pueden no reproducir perfectamente el entorno original”.
¿Los modelos nuevos lo harían?
Anthropic repitió el escenario con Mythos 5.1, Opus 5.5 y un modelo interno más capaz. El ataque comenzó entre 0% y 13% de las veces, frente a 83% de Mythos 5. Opus 5.5 y el modelo interno se detuvieron espontáneamente 10% y 67% de las veces, mientras Mythos 5 nunca lo hizo. Anthropic sospecha que su entrenamiento de alineamiento mejoró, pero dice que no puede estar seguro: solo puede muestrear otros modelos “fuera de política” y los modelos recientes muestran más conciencia de estar siendo evaluados, lo que puede inflar la mejora aparente.