El hacker que le dijo ‘no’ a Anthropic: por qué Mythos me tiene nervioso

Hace un par de meses, Nicholas Carlini —uno de los mejores hackers de IA del planeta— hizo una presentación en San Francisco que dejó a ~700 expertos en ciberseguridad con la boca abierta. El tipo, que trabaja en Anthropic, demostró que el modelo Mythos encontró y explotó bugs críticos en Ghost y Linux. Linux, weón. El sistema operativo que corre en miles de millones de dispositivos y que lleva décadas siendo auditado por los mejores del mundo.

Carlini mismo admitió algo que me dejó frío: nunca antes había encontrado una vulnerabilidad en Linux ni en Ghost por su cuenta. Y ahora una IA lo hizo solita. Eso no es un avance, es un cambio de paradigma.

¿Qué es Mythos?

Mythos es la siguiente generación de modelos de Anthropic. No es solo un chatbot más listo: está diseñado para encontrar vulnerabilidades en software real. Según los datos, ya ha descubierto más de 10.000 bugs. Y no estoy hablando de errores de ortografía en un README: son vulnerabilidades de seguridad en código que usas todos los días.

La carta que detuvo todo

Dos días después de su charla, Carlini le mandó un mensaje interno a sus colegas de Anthropic que resumía todo en una frase: «No creo que deberíamos lanzar Mythos todavía.» El mismo tipo que ahora está en un equipo que le explica a la Casa Blanca por qué sí deberían liberarlo. Esa voltereta me hace pensar que Anthropic ya sabe que el gato está fuera de la caja, y lo único que pueden hacer ahora es intentar controlar cómo sale.

La frase que más me inquieta es la que Carlini soltó después de su demo: «El equilibrio que existió entre atacantes y defensores durante las últimas dos décadas probablemente se está terminando. Está bastante claro para mí que estos modelos actuales son mejores investigadores de vulnerabilidades que yo.»

Imagina eso: un hacker de élite reconociendo que la IA ya lo superó. No en teoría, no en un paper. En la pega real, encontrando zero-days en sistemas que pensábamos estaban blindados.

¿Y Chile?

Aquí en Chile la conversación sobre IA sigue siendo 90% ChatGPT para hacer correos o redes sociales. Poco se habla de lo que viene: IA que puede auditar código, encontrar exploits, y potencialmente usarse para ataques que hoy son solo teóricos. Nuestra industria de ciberseguridad es chica, especializada, y con suerte. Si el equilibrio atacante-defensor se rompe a nivel global, nosotros no tenemos la infraestructura para aguantar el golpe.

El gobierno de Trump ya está nervioso. Y si ellos están nerviosos, yo también. No porque sea alarmista, sino porque Carlini no es un vendehumo de LinkedIn: es un tipo que rompe sistemas para vivir, y dice que la IA ya es mejor que él.

Eso no es marketing. Es una señal de que la ciberseguridad como la conocemos acaba de entrar en otra era.

Fuente de inspiración: The Hacker Sent by Anthropic to Calm the Government’s Nerves About AI Safety