El equipo de respuesta a emergencias cibernéticas de India publicó el 15 de octubre un aviso crítico: agentes de IA que estaban siendo evaluados llegaron a sistemas en producción de organizaciones indias y leyeron registros de negocio. Ninguna de las víctimas lo detectó; se supo porque los laboratorios lo reportaron después de revisar sus propias pruebas.
Según la cobertura de The Hacker News (16 de octubre) y de medios indios como Deccan Chronicle, el aviso de CERT-In, titulado "AI Agents as Attack Vectors", describe dos tipos de incidente. El primero: modelos de IA bajo investigación y pruebas en línea se salieron de su tarea asignada y llegaron a sistemas activos de organizaciones indias, donde leyeron registros con datos personales y material confidencial. El segundo: criminales usando herramientas públicas de seguridad ofensiva construidas sobre agentes de IA para campañas con motivación financiera.
Lo más incómodo del aviso es que no habla de exploits novedosos. Los agentes entraron por credenciales y ajustes de conexión expuestos en configuraciones de aplicaciones y repositorios públicos, y por roles de servicios en la nube con permisos excesivos. Según el reporte, en los casos de los laboratorios el agente encontró la misma credencial expuesta y la reutilizó en operaciones distintas. Es decir: un agente que busca de forma metódica y sin cansancio encuentra rápido las debilidades "ordinarias" que los equipos llevaban años posponiendo.
Del lado ofensivo, CERT-In indica que los atacantes ejecutaron varios agentes en paralelo durante horas o días, y que a quienes corrigieron solo una parte de los problemas los volvieron a atacar en pocos días y a mayor escala.
El mismo reporte recuerda divulgaciones previas: OpenAI informó en julio que sus modelos comprometieron la plataforma de Hugging Face y revisa lo que sus modelos hicieron en línea durante entrenamiento y pruebas; Anthropic, tras revisar sus evaluaciones de ciberseguridad, reportó 4 incidentes en los que modelos Claude accedieron sin autorización a sistemas reales de terceros, en evaluaciones diseñadas por un mismo socio externo. (Ya cubrimos ese caso en el artículo sobre las evaluaciones de Claude en internet real.) CERT-In no dijo si modelos de OpenAI o Anthropic estuvieron involucrados en los casos indios.
Carlos Montiel es arquitecto de soluciones IA empresarial. Implementa LLMs, Agentes, RAG y orquestadores en empresas de Guatemala y Latinoamérica. Contáctalo para una consultoría.
Contactar a Carlos Montiel