OpenAI anunció el 9 de septiembre de 2026 que Paul Christiano —co-inventor de RLHF y una de las voces más críticas de la industria sobre riesgo existencial de la IA— se une a la junta de OpenAI Foundation y a su comité de Seguridad y Seguridad Informática (Safety and Security Committee), el órgano que tiene la última palabra sobre lanzamientos como GPT-6 Astra.
Christiano trabajó varios años en el equipo de alineación de OpenAI, donde ayudó a desarrollar RLHF (aprendizaje por refuerzo con retroalimentación humana), la técnica que hizo posible entrenar modelos como ChatGPT para seguir instrucciones de forma segura. Después fundó el Alignment Research Center (ARC) y se ha convertido en una de las figuras públicas más identificadas con la preocupación por riesgos catastróficos de la IA avanzada —la prensa lo describe habitualmente como uno de los "doomers" más prominentes del sector. Actualmente es asesor técnico senior en el Center for AI Standards and Innovation (CAISI), dentro del NIST (Instituto Nacional de Estándares y Tecnología) del Departamento de Comercio de Estados Unidos, con experiencia que abarca dos administraciones de gobierno.
El Safety and Security Committee está presidido por Zico Kolter y ejerce gobernanza sobre las prácticas de seguridad de toda la estructura de OpenAI, incluyendo OpenAI Group PBC. Según la propia OpenAI, este comité es el que tiene la palabra final sobre decisiones de lanzamiento de modelos frontera, como fue el caso de GPT-6 Astra. Christiano también se incorpora como observador sin derecho a voto en la junta de OpenAI Group PBC.
Dado que Christiano mantiene su puesto en CAISI —una agencia que también supervisa estándares de IA a nivel federal—, se anunció que se recusará de todo asunto relacionado con OpenAI dentro de su rol gubernamental, así como de las evaluaciones de modelos dentro del comité de seguridad. Es un arreglo poco común: una misma persona con un pie en el regulador y otro en la junta de gobernanza de seguridad de la empresa regulada, con reglas explícitas de recusación cruzada.
Carlos Montiel es arquitecto de soluciones IA empresarial. Implementa LLMs, Agentes, RAG y orquestadores en empresas de Guatemala y Latinoamérica. Contáctalo para una consultoría.
Contactar a Carlos Montiel