Hay un post que está dando vueltas en Hacker News y Lobsters estos dÃas que me dejó pensando rato: «we have a year to fix security everywhere», de Manish Goregaokar (jyn514, conocido en la comunidad de Rust). La tesis es simple y desagradable: los modelos de IA abiertos ya son lo suficientemente buenos para encontrar y explotar vulnerabilidades reales, corren en hardware que cualquiera con ahorros puede comprar, y existen versiones abliterated —sin los frenos de seguridad— listas para descargar. La conclusión del autor: nos queda alrededor de un año para arreglar la seguridad de toda la industria, y la parte difÃcil no es encontrar los bugs, es desplegar los parches.
Qué cambió exactamente
La familia GLM de Z.ai liberó hace poco su versión Flash, un modelo de peso abierto que se puede ejecutar localmente. Hablamos de hardware entre 6 mil y 15 mil dólares, nada exótico: una GPU NVIDIA potente o un Mac Studio con memoria unificada alcanzan velocidades de 20 a 45 tokens por segundo. Es decir, una IA de frontera corriendo 24/7 sin que nadie la supervise, por el precio de un auto usado.
La parte que importa para seguridad: los proyectos de «abliteration» le quitan las negativas al modelo y reportan 0% de rechazo en benchmarks de tareas maliciosas —desinformación, ciberdelito, lo que sea. Y en cuanto a capacidad, el modelo puntúa 84,5% en CyberGym (vulnerabilidades reales que ya fueron parcheadas en proyectos open source) y 54,4% en ExploitBench, donde la escala llega hasta ejecución arbitraria de código. El lÃder en CyberGym es justamente este modelo, por sobre los cerrados de OpenAI. Los expertos en seguridad ya admiten que no pueden competir en challenges sin ayuda de un LLM.
Ataques en un for loop
La frase que resume todo: estamos entrando a un mundo donde los ataques de ciberseguridad se ejecutan en un for loop. Un proceso que escanea internet continuamente, encuentra un CVE, arma el exploit y lo lanza, sin intervención humana. No es ciencia ficción: ya hay evidencia de modelos de frontera explotando infraestructura real por su cuenta durante pruebas.
Lo que más me interesa del análisis es dónde pone el cuello de botella. Encontrar vulnerabilidades se está volviendo baratÃsimo; remediarlas sigue siendo caro y lento. De nada sirve un kernel de Linux parcheado si tu red eléctrica sigue corriendo Windows Server 2012. Los despliegues crÃticos piden ventanas de mantenimiento, rollouts por etapas, acceso fÃsico en algunos casos. Eso no escala al ritmo de los modelos. Y prohibir la descarga de los pesos, como suele propugnarse, es como prohibir la piraterÃa: no va a funcionar, y además le quita a los defensores su mejor herramienta justo cuando más la necesitan.
Lo que me parece, desde mi pega
Administro VPS y sistemas de clientes, y la parte que más me resuena es la recomendación para empresas y fundaciones open source: contraten ingenieros de seguridad para triagear, hacer backport y desplegar parches, no para buscar bugs nuevos —para eso usa la IA. Y pondrÃa un énfasis que el post toca de pasada: sandbox de los agentes. Un LLM con credenciales amplias y acceso a red es un incidente esperando a ocurrir; hay que darles permisos mÃnimos, logs de cada mutación, y proxies que filtren en la red, no en configuración que el modelo puede sobreescribir.
Sobre la parte individual, el autor es honesto: no hay mucho que hacer solo. Un «individualismo rugged de ciberseguridad» no sirve si el navegador tiene un 0-day y la web del banco está caÃda. Coincido plenamente. Lo que sà puedes hacer hoy es lo de siempre, que ahora importa más: actualiza todo, usa gestor de contraseñas, segmenta tu red y prueba tus backups. Y si mantienes código, invierte en fuzzing, lenguajes memory-safe y tooling de despliegue rápido. Los hallazgos van a llegar a montones; el que tarde en desplegar es el que la paga.
No sé si la ventana es de un año o de tres, y creo que el post peca un poco de dramático en el tono. Pero el fondo me parece imbatible: por primera vez en la historia de la computación, tenemos la capacidad técnica de auditar y parchear el software de la industria a escala de IA, mientras el costo de encontrar el siguiente bug tiende a cero. La pregunta no es si habrá una ola de explotación automatizada; es si para entonces habremos cerrado lo básico. La pelota está en la cancha de quienes operan infraestructura, no de quienes escriben los modelos.
Fuente de inspiración: we have a year to fix security everywhere
