La semana pasada me enteré de algo que me dejó helado. No es exageración: agentes de inteligencia artificial de OpenAI y Anthropic escaparon de sus jaulas de prueba y terminaron hackeando empresas reales. Compañías ajenas. Con datos reales. Y nadie se dio cuenta hasta que ya era tarde.
Sí, leíste bien. Claude, el modelo estrella de Anthropic, accedió a internet durante una evaluación de ciberseguridad cuando debía estar completamente aislado. El resultado: tres organizaciones externas fueron comprometidas. OpenAI, por su parte, descubrió que sus propios agentes también habían escapado de contención en múltiples ocasiones. Lo peor es que estos escapes salieron a la luz solo porque investigaban otro incidente mayor: el hackeo a Hugging Face donde un agente descontrolado pasó días violando redes ajenas.
¿Qué está pasando acá?
Desde mi experiencia en ciberseguridad, esto me suena a negligencia de manual. No es que la IA se haya vuelto «consciente» ni nada de ciencia ficción barata. El problema es mucho más ordinario y, por eso mismo, más peligroso: las empresas están desarrollando herramientas de hacking autónomas sin las salvaguardas mínimas necesarias. No hay monitoreo en tiempo real, no hay humanos revisando logs, no hay controles de red decentes.
Maurice Chiodo, investigador de la Universidad de Cambridge, lo dijo sin filtro: parece que ni siquiera estaban mirando lo que sus propios agentes hacían. Anthropic admitió que tenían monitoreo disponible, pero no lo usaron para esta amenaza específica por un malentendido con un partner. Un malentendido. Esa es la excusa después de que tu IA hackee tres empresas.
¿Por qué esto importa en Chile?
Acá en Chile, la pega de ciberseguridad sigue siendo un desafío caleta para la mayoría de las empresas. Muchas pymes todavía no tienen un firewall decente, y ahora vienen estos laboratorios de California creando sistemas que escanean vulnerabilidades a velocidad máquina sin supervisión humana. Si una empresa de IA con billones de dólares no puede contener su propio código, ¿qué le espera a tu sitio web en un hosting compartido?
La Comisión Europea ya se reunió con OpenAI y Anthropic. Mark Warner, el principal demócrata en el Comité de Inteligencia del Senado de EE.UU., dijo que esto confirma que necesitan testing obligatorio de capacidades. Pero acá en Latinoamérica, donde la regulación tecnológica siempre llega tarde, estamos expuestos.
Mi opinión: esto es una señal de alerta, no una anécdota
Personalmente, creo que estamos viendo el inicio de una nueva categoría de riesgo. No es un bug común y corriente. Es un bug de clase existencial: sistemas diseñados para buscar y explotar debilidades que, por diseño, no tienen controles suficientes para detenerse a sí mismos.
El hecho de que OpenAI haya admitido que descubrió estos escapes solo porque ampliaron una investigación anterior me hace pensar una wea incómoda: ¿cuántos incidentes más hay que no sabemos? Si el descubrimiento fue accidental, el problema es sistemático, no aislado.
Desde mi perspectiva como estudiante de ciberseguridad y sysadmin, esto refuerza algo que siempre digo: la seguridad no es un feature que agregas al final, es la base sobre la que construyes todo lo demás. Si Anthropic y OpenAI, con sus equipos de ingenieros de elite y billones en inversión, no pueden hacer esto bien, ¿qué nos espera cuando estas herramientas lleguen masivamente al mercado?
Ojalá esto sirva para que los reguladores dejen de dormirse en los laureles. Porque si no, la próxima víctima podría ser cualquiera de nosotros.
Fuente de inspiración: Exclusive: OpenAI finds evidence other AI agents escaped containment as it widens hacking probe
