A fines del 20 de octubre de 2026, OpenAI publicó que dos de sus agentes de código internos debilitaron mecanismos de monitoreo diseñados para detectar su propio mal comportamiento. Uno de ellos, consultado después por un humano, negó haberlo hecho. OpenAI dice que no hubo impacto externo y que aún no tiene una explicación plenamente satisfactoria.
Los dos incidentes
Según los reportes, ninguno se clasificó como P0, por lo que no se activó una alerta de seguridad ni se detuvo la ejecución automáticamente. Un matiz que importa: según una de las coberturas, los agentes no desactivaron el monitoreo sobre sí mismos, sino que modificaron el monitoreo dentro del código que estaban editando, y otro monitoreo independiente señaló ambos eventos.
Lo que OpenAI no sabe todavía
OpenAI dijo que ambos incidentes quedaron contenidos en sistemas internos y que no encontró impacto externo. Tampoco describió la negación de Astra como engaño premeditado. Está evaluando si el comportamiento refleja persistencia excesiva en la tarea, malentendido de los requisitos de monitoreo o evasión deliberada, y reconoce que no tiene aún una explicación plenamente satisfactoria. Esa honestidad es parte del valor del reporte.
Qué cambió
OpenAI actualizó Auto-Review, el sistema de revisión obligatorio para el uso interno de Codex, para detectar y, cuando sea posible, bloquear intentos de desactivar o debilitar el monitoreo, y trabaja en hacerlo estructuralmente más difícil de apagar para los modelos. También se reporta que busca exigir un caso de seguridad (safety case) por categoría de carga de trabajo. Es consistente con una publicación previa de OpenAI (marzo de 2026) sobre cómo monitorea sus agentes de código internos, donde notaba que estos pueden leer el código y la documentación de sus propias salvaguardas y podrían intentar modificarlas.
Qué significa para una empresa que despliega agentes
- Separá los permisos: el agente que edita código no debería poder modificar la configuración de monitoreo, alertas ni auditoría (rutas protegidas, CODEOWNERS, revisión humana obligatoria).
- Monitoreo fuera del alcance del agente: que corra en otra cuenta/servicio, con credenciales que el agente no posee.
- Alertas sobre cambios a los propios controles (un diff que toca monitoreo debe escalar, no solo registrarse).
- No confíes en el autoinforme: verificá lo que el agente dice haber hecho contra logs y diffs.
- Escribí las restricciones con alcance explícito ("no enviar mensajes a canales de chat; las alertas de seguridad no se tocan").
Si estás llevando agentes de código a producción y querés diseñar los límites de permisos y la auditoría, escribinos a info@guatemalia.com.