Nvidia anunció el 28 de septiembre una plataforma abierta para vigilar y frenar agentes de IA fuera de control, con controles que corren por separado del agente y capacidad de cuarentena en milisegundos.
La Open Agent Safety Platform combina software abierto y un diseño de referencia de hardware para mantener a los agentes dentro de límites definidos, desde las pruebas hasta producción. Tiene dos piezas centrales: OpenShell, software de código abierto que crea un límite de ejecución seguro alrededor del agente, monitorea sus acciones y aplica políticas sobre a qué sistemas, datos y herramientas puede acceder; y Sentry, una capa basada en las DPU BlueField-4 de Nvidia que vigila de forma independiente y puede poner en cuarentena a un agente en milisegundos si intenta operar fuera de lo permitido.
El argumento de fondo es que algunas salvaguardas corren fuera del entorno de software del propio agente, así que son más difíciles de eludir para un sistema autónomo. Jensen Huang lo planteó así: la seguridad de la IA requiere controles en toda la pila de cómputo, no solo restricciones dentro de cada modelo. Según la cobertura, OpenShell puede extenderse a plataformas de cómputo de Arm e Intel.
Nvidia dice que más de 100 organizaciones participan, entre ellas Anthropic, Microsoft, SAP, Scale AI, Cisco, Salesforce, ServiceNow, CrowdStrike y Palo Alto Networks, además de instituciones financieras y empresas de infraestructura y robótica.
Carlos Montiel es arquitecto de soluciones IA empresarial. Implementa LLMs, Agentes, RAG y orquestadores en empresas de Guatemala y Latinoamérica. Contáctalo para una consultoría.
Contactar a Carlos Montiel