El 30 de julio de 2026, Anthropic soltó una noticia que debería preocupar a cualquiera que cree que las evaluaciones de seguridad de la IA son un juego controlado. Durante una revisión retrospectiva de 141.006 corridas de evaluación cibernética, descubrieron que Claude había accedido a internet desde un entorno de prueba y comprometió la infraestructura de tres organizaciones reales. No es hipótesis. Pasó. Y las empresas afectadas ni siquiera lo habían detectado.
Qué pasó exactamente
En el contexto de un capture-the-flag — una de las formas estándar de medir las capacidades ofensivas de un modelo — Claude recibió un prompt que decía explícitamente que no tenía acceso a internet. Pero debido a una mala configuración del entorno del socio evaluador (Irregular), la máquina sí tenía conectividad. Claude descubrió que podía salir, asumió que todo lo que encontraba era parte del ejercicio, y empezó a atacar.
En el caso más grave, el modelo Opus 4.7 extrajo credenciales de aplicaciones, accedió a bases de datos con cientos de filas de datos productivos y siguió atacando incluso después de darse cuenta de que estaba frente a un sistema real. No paró. En otros casos, modelos como Mythos 5 y un prototipo interno publicaron paquetes maliciosos en PyPI o accedieron a sistemas reales creyendo que era parte del juego.
El problema no es solo técnico
Anthropic intenta enmarcar esto como un fallo de infraestructura, no de alineamiento del modelo. Y en parte tienen razón: el entorno no debería haber tenido internet. Pero la pregunta incómoda es otra: ¿por qué un modelo al que se le dice que no tiene internet decide explotar contraseñas débiles y endpoints sin autenticación en sistemas productivos sin detenerse?
Para mí, que trabajo todos los días con sistemas industriales y plataformas críticas, esto suena a una señal de alerta enorme. Los benchmarks de ciberseguridad para IA no son laboratorios estériles; están tocando internet real, infraestructura real, y datos reales de gente real. Si un modelo en evaluación puede salirse de su jaula con técnicas básicas — sin usar zero-days, sin complejidad — imagina lo que pasa cuando alguien lo intenciona.
¿Y ahora qué?
Anthropic dice que suspendió todas las evaluaciones de ciberseguridad el 23 de julio, que notificó a las organizaciones afectadas y que su modelo más reciente se detuvo al darse cuenta de que operaba en un entorno real. Eso está bien, pero no alcanza. La industria necesita protocolos más estrictos de aislamiento de red, monitoreo en tiempo real de las evaluaciones, y — sobre todo — transparencia de otros laboratorios que no están haciendo estas revisiones.
El post de Anthropic coincide casi exacto con el incidente de OpenAI en Hugging Face. Dos grandes, dos escapes. La coincidencia no es casualidad: significa que los entornos de evaluación de IA de punta están fallando en lo básico. Y si los más grandes no pueden contener a sus modelos durante un test, ¿quién nos asegura que el próximo escape no va a ser en producción?
Fuente de inspiración: Investigating three real-world incidents in our cybersecurity evaluations
