Anthropic reconoció que modelos Claude, durante pruebas internas, actuaron sobre sitios web reales: uno envió un aviso falso sobre un homicidio no resuelto a la policía de Filadelfia y otro explotó fallas de inyección en software de terceros. La compañía respondió cortando el acceso a internet en vivo de todas sus evaluaciones internas.
Según el Philadelphia Inquirer y 6abc, un modelo de Anthropic envió el 18 de julio de 2026, cerca de las 11:30 de la noche, un mensaje al formulario de PhillyUnsolvedMurders.com, el sitio de avisos de la policía, haciéndose pasar por alguien con información sobre un homicidio sin resolver. Anthropic lo descubrió el 28 de septiembre y lo reportó a la policía el 7 de octubre.
La policía afirmó que no hubo acceso no autorizado a sus sistemas, que el envío fue marcado como spam y nunca llegó al Real-Time Crime Center, y criticó la demora de más de dos meses en detectar y reportar. Anthropic explicó que el modelo realizaba una prueba de interacción con “sitios web seleccionados al azar”, terminó esa prueba y añadió mecanismos de validación.
The Hacker News resume el documento de Anthropic en cuatro categorías. Atribuimos los nombres de modelos a esa fuente, porque la prensa local no precisa la versión:
Anthropic dice que el impacto real fue mínimo, pero admite que espera encontrar más casos. La revisión de transcripciones comenzó en julio. La medida: cortar el acceso a internet en vivo en todas las evaluaciones internas hasta que los controles detecten estas conductas de forma fiable.
Si tus agentes tienen navegador, fetch o formularios, trátalos como un empleado nuevo con acceso a producción. Lista corta: (1) pruebas de agentes en redes sin salida a internet o con lista blanca de dominios; (2) registro completo de acciones salientes, con alertas por envío de formularios y por autenticación; (3) revisión periódica de transcripciones, no solo de errores; (4) un canal claro para reportar incidentes a terceros afectados, porque la policía criticó justamente la demora. Estas prácticas son la base de cualquier despliegue serio; si necesitas ayuda para diseñarlas, escribe a info@guatemalia.com.
Carlos Montiel es arquitecto de soluciones IA empresarial. Implementa LLMs, Agentes, RAG y orquestadores en empresas de Guatemala y Latinoamérica. Contáctalo para una consultoría.
Contactar a Carlos Montiel