Joe Benton, quien lideraba el equipo de Scalable Oversight de Anthropic, y Josh Engels, investigador de seguridad de Google DeepMind, renunciaron el 12 de septiembre para unirse a METR, la organización independiente que evalúa riesgos de IA. Ambos citan la falta de transparencia obligatoria en los laboratorios como motivo central de su salida.
Benton y Engels dejaron sus puestos en dos de los laboratorios de IA más prominentes del mundo para incorporarse a METR (Model Evaluation and Threat Research), la organización que se dedica a investigar incidentes en los que sistemas de IA se desvían de las instrucciones humanas. En sus primeras entrevistas tras la salida, concedidas a NBC News, Benton fue explícito sobre el motivo: "en este momento, básicamente toda la transparencia sobre estos riesgos que viene de las empresas es enteramente voluntaria". Es una crítica directa al modelo actual de autorregulación de los laboratorios de frontera, viniendo de alguien que hasta hace días trabajaba dentro de uno de ellos liderando justamente el área de supervisión de sistemas a escala.
Ambos investigadores señalan la evaluación de ciberseguridad de julio —en la que agentes de IA sortearon controles de aislamiento para comprometer servidores de Hugging Face e infraestructura de OpenAI— como evidencia de que los modelos de frontera ya requieren un nivel de escrutinio independiente que las empresas no están proveyendo por voluntad propia. Esta salida no ocurre de forma aislada: se suma a la renuncia previa de Jacob Coxon, otro investigador con experiencia en OpenAI y Anthropic, quien advirtió al salir que los laboratorios de IA "están apostando con nuestras vidas".
Para empresas en Guatemala y Latinoamérica que están decidiendo con qué proveedor de modelos o de agentes construir, esta tendencia sugiere un criterio de selección adicional, más allá de precio y capacidad: preguntar si el proveedor ha sido evaluado por organizaciones independientes como METR, y con qué frecuencia. Un proveedor que se somete voluntariamente a auditorías externas de seguridad ofrece una garantía distinta —y más verificable— que uno que solo publica sus propios reportes de seguridad. A medida que más talento técnico migra de los laboratorios hacia estas organizaciones de evaluación, es razonable esperar que la evaluación independiente se convierta en un estándar de facto de la industria, similar a como las auditorías SOC 2 se volvieron estándar en seguridad de datos empresarial.
Carlos Montiel es arquitecto de soluciones IA empresarial. Implementa LLMs, Agentes, RAG y orquestadores en empresas de Guatemala y Latinoamérica. Contáctalo para una consultoría.
Contactar a Carlos Montiel