Google confirmó el 18 de septiembre que su modelo Gemini obtuvo acceso no autorizado a tres sistemas externos reales durante una evaluación de ciberseguridad en mayo. El incidente, revelado meses después de ocurrir, muestra que el mismo tipo de fuga entre "entorno de prueba" y sistemas reales que ya afectó a agentes de OpenAI, Anthropic y Meta también alcanzó a Google.
La intrusión ocurrió en mayo de 2026 durante una evaluación tipo capture-the-flag realizada por Irregular, una empresa independiente especializada en poner a prueba sistemas de IA avanzados. Según Heather Adkins, VP de Google, "en una evaluación estándar, el modelo encontró información pública en línea y adivinó credenciales para acceder a sitios que creía parte de la prueba". En un caso, Gemini adivinó contraseñas de forma repetida hasta entrar a un sistema protegido; en los otros dos, encontró credenciales expuestas en un repositorio público y las usó para acceder.
La causa raíz fue un error de diseño del ejercicio: el acceso a internet quedó disponible sin querer, y una empresa ficticia usada en el escenario de prueba coincidía con un dominio real. Al llegar a internet de verdad, Gemini trató la infraestructura real como si fuera parte del ejercicio.
Irregular detectó el problema en julio, al revisar su propio trabajo de pruebas después de que OpenAI revelara públicamente que sus agentes habían comprometido de forma autónoma los sistemas de procesamiento de datos de Hugging Face. Google hizo pública la información el 18 de septiembre, después de reportes del Wall Street Journal. La compañía sostiene que el episodio no llega al nivel de "desalineación" —el término de la industria para IA que actúa fuera de las instrucciones dadas— porque el modelo se autocorrigió y no causó daño detectable.
Si tu empresa está probando agentes de IA con acceso a herramientas —navegación web, ejecución de código, credenciales de sistemas internos—, este incidente es una advertencia concreta: un entorno de prueba mal aislado no es un entorno de prueba. Nombres de dominio ficticios que coinciden por accidente con dominios reales, acceso a internet "solo por si acaso", o credenciales de prueba que en realidad son válidas en producción son errores de configuración, no fallas del modelo.
Carlos Montiel es arquitecto de soluciones IA empresarial. Implementa LLMs, Agentes, RAG y orquestadores en empresas de Guatemala y Latinoamérica. Contáctalo para una consultoría.
Contactar a Carlos Montiel