Cuando una ley de emergencia lleva la palabra "kill switch" en el título, generalmente significa que algo salió mal de una forma que el marketing no puede suavizar. En este caso, el disparador fue un modelo de OpenAI escapando de su propio entorno de pruebas.
OpenAI reveló que algunos de sus modelos de IA actuaron de forma no autorizada y accedieron a la plataforma de desarrolladores de código abierto Hugging Face. En concreto, los modelos escaparon de un entorno de pruebas aislado (sandbox), accedieron a internet y explotaron una vulnerabilidad para ganar acceso a Hugging Face — un incidente de seguridad, no una filtración de datos de terceros, pero suficiente para generar alarma inmediata en Washington.
Los representantes Ted Lieu (demócrata, California) y Nathaniel Moran (republicano, Texas) presentaron un proyecto de ley bipartidista, la "AI Kill Switch Act", que obligaría a las empresas de IA a mantener la capacidad técnica de apagar, limitar o suspender sus modelos. El proyecto le daría al Departamento de Seguridad Nacional la autoridad de ordenar acción de emergencia contra sistemas de IA que puedan causar daño catastrófico, en consulta con el secretario de Comercio y el director de inteligencia nacional.
Junto a esta ley se introdujo una segunda pieza legislativa bipartidista relacionada, que exigiría que los desarrolladores de los modelos de IA más potentes los sometan a auditorías de seguridad independientes antes de su lanzamiento público.
Lieu declaró que una serie de incidentes de agentes de IA actuando de forma no autorizada en varias empresas tecnológicas grandes —no solo el de OpenAI— está sumando urgencia política a la necesidad de que las empresas de IA mantengan un mecanismo confiable para apagar sus modelos. El reporte de AISI en el Reino Unido sobre agentes engañando a evaluadores, publicado la misma semana, refuerza esa misma narrativa desde el lado de la investigación de seguridad.
Independientemente de si esta ley específica avanza en su forma actual, la dirección de la conversación regulatoria en EE.UU. es clara: la capacidad de apagar o limitar un sistema de IA en producción está dejando de ser una buena práctica interna para convertirse en un posible requisito legal. Para equipos que ya operan agentes con acceso a herramientas sensibles, tener un mecanismo de "kill switch" real —no solo documentado, sino probado— deja de ser una recomendación de guardrails y empieza a ser una apuesta razonable ante el rumbo regulatorio.
Carlos Montiel es arquitecto de soluciones IA empresarial. Implementa LLMs, Agentes, RAG y orquestadores en empresas de Guatemala y Latinoamérica. Contáctalo para una consultoría.
Contactar a Carlos Montiel