El truco recurrente que dicen que esconde GPT-6 Astra (y por qué el pánico está mal puesto)

El truco recurrente que dicen que esconde GPT-6 Astra (y por qué el pánico está mal puesto)

El truco recurrente que dicen que esconde GPT-6 Astra (y por qué el pánico está mal puesto)

Esta semana salió GPT-6 Astra y, como siempre en estos lanzamientos, el discurso oficial es una cosa y los rumores de pasillo son otra. The Information publicó que OpenAI estaría usando una técnica llamada recurrent depth o looped transformers, y de ahí saltaron los titulares apocalípticos: que el modelo «esconde» su razonamiento, que hay problemas de seguridad y transparencia. Sebastian Raschka escribió un análisis largísimo sobre el tema y, después de leerlo completo, mi conclusión es simple: el pánico está mal puesto.

¿Qué es un looped transformer?

Un transformer normal es una pila de bloques: el texto entra por abajo, pasa por cada bloque una vez y sale arriba. La idea del looped transformer es pasar los mismos datos por la misma pila más de una vez, reutilizando los pesos. Si tienes 22 bloques y haces dos pasadas, equivales a un modelo de 44 bloques pero con la mitad de parámetros que guardar. Menos memoria para los pesos, mismo costo de cómputo en el forward.

Esto no es ninguna magia nueva de 2026: la idea viene del paper de Universal Transformers de 2018. Los ejemplos recientes abundan: Nanbeige4.2-3B usa 22 bloques dos veces, ByteDance con Ouro-Thinking 2.6B aplica 48 bloques cuatro veces (192 aplicaciones con pesos de solo 48). Hay variantes más finas, como Mixture-of-Recursions, donde un router decide cuántas pasadas recibe cada token: los fáciles avanzan rápido y los difíciles dan más vueltas. Como los RNN de los 90, pero reciclando en profundidad en vez de en tiempo.

Lo del «razonamiento escondido»

Aquí viene mi parte favorita del análisis. El rumor dice que, como el modelo piensa «internamente» en sus pasadas recurrentes, ya no necesita tantos tokens de chain-of-thought visibles, y eso es opaco. Suena profundo, pero hay dos problemas:

Primero: OpenAI esconde los reasoning traces desde o1, hace años. Para el usuario final nada cambió. La misma gente que se escandaliza hoy nunca vio el chain of thought completo de ningún modelo razonador reciente.

Segundo: que un modelo use menos tokens de razonamiento no significa que sea menos interpretable. Astra usa menos tokens que su predecesor para la misma precisión, pero eso puede significar simplemente que se equivoca menos y no necesita volver atrás. Comparado con modelos más pequeños que divagan en tokens para lograr lo mismo, ¿nadie dice que esos sean «más interpretables» por gabear más?

Mi opinión

Creo que Astra es un modelo excepcional (los benchmarks de código y matemática lo ponen claramente en la frontera, y el 99.9% en ARC-AGI-3 vs 7.8% del modelo anterior es brutal), pero le atribuiría su éxito más a recetas de entrenamiento y datos mejores que a este truco arquitectural. El looped transformer ayuda, pero es un ajuste, no una revolución.

Lo que sí me interesa de verdad de este lanzamiento es otra cosa: el computer use. OpenAI compró decenas de miles de Mac Minis y Mac Studios no para entrenar los modelos, sino como ambiente de reinforcement learning: el modelo ve screenshots de macOS, predice clicks y teclas, y recibe feedback de si logró la tarea. Eso sí es un cambio de era. Cuando el modelo deja de depender de que exista una CLI o una API y aprende a usar la interfaz gráfica como tú o yo, la barrera de entrada para automatizar cualquier pega se cae. Eso, y no los rumores recurrentes, es lo que deberíamos estar mirando.

La lección para nosotros los que administramos sistemas: mientras el mundo discute si el modelo «esconde» su pensamiento, ya hay modelos que pueden sentarse en tu escritorio y usar tus aplicaciones. Preparen sus permisos, sus sandboxes y sus logs, porque la capa de amenaza acaba de moverse del terminal al cursor.

Fuente de inspiración: GPT-6 Astra, Looped Transformers, and Hidden Reasoning

Comentarios

Aún no hay comentarios. ¿Por qué no comienzas el debate?

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *