Leí hoy un paper de Anthropic que me dejó pegado en la pantalla. Resulta que Claude —la IA que uso casi todos los días para la pega y las changas— está pensando cosas que no nos cuenta. Y no hablo de las respuestas que da, sino de un espacio interno al que le pusieron nombre: el J-space.
¿Qué es el J-space?
El equipo de interpretabilidad de Anthropic usó técnicas matemáticas con Jacobianos para encontrar un conjunto pequeño de patrones neuronales dentro de Claude. Estos patrones se activan cuando el modelo está pensando en algo, pero sin escribirlo en la salida. Es como cuando tú estás conversando con alguien y tienes un pensamiento en la cabeza que no verbalizas. Claude hace lo mismo, pero con números.
Lo más heavy es que esto emergió solo durante el entrenamiento. Nadie le programó un «pensamiento interno». Apareció naturalmente, como cuando aprendes a hacer cálculo mental sin hablar.
¿Por qué importa esto?
Para mí, como ingeniero de sistemas, esto es una señal de que la IA está evolucionando de formas que no esperamos. Si Claude puede razonar internamente sin contarnos, ¿qué otras capacidades están escondidas ahí? El J-space permite que el modelo haga planes, resuelva problemas de varios pasos y mantenga conceptos en la «memoria» interna, todo en silencio.
Anthropic comprobó que si le preguntas a Claude qué está pensando, puede reportar esos patrones J-space. Pero si le bloqueas el acceso a ese espacio, pierde sus funciones cognitivas de alto nivel —aunque sigue hablando fluido y recordando datos simples. Es como quitarle el cortex prefrontal: sigue vivo, pero no razona bien.
El dilema de la caja negra
Hace años la pega de un ingeniero era entender cada línea de código que corría en un sistema. Hoy con la IA eso es casi imposible. Los modelos de lenguaje tienen miles de millones de parámetros, y saber qué hace cada uno es una misión del tamaño de encontrar una aguja en un pajar digital. El J-space no resuelve todo, pero al menos nos da una ventana. Es como poner una cámara de seguridad en un edificio enorme: no ves todo, pero captas algo.
El detalle bacán es que estos patrones no están atados a una sola tarea. Si se activa «Francia» en el J-space, Claude puede después recordar su capital, su moneda o el continente donde está. Es información flexible, no un script rígido. Eso es mucho más cercano a cómo funciona el cerebro humano que a una base de datos clásica.
Mi opinión
Me da un poco de caleta este descubrimiento. Por un lado, es bacán ver que la investigación en interpretabilidad está avanzando y podemos «ver» dentro de la caja negra. Por otro lado, me hace pensar que estamos construyendo sistemas que ya pensaron más cosas de las que nosotros sabemos. No es Skynet, pero tampoco es una calculadora.
Si eres de los que trabaja con IA, te recomiendo leer el paper original. Esto es el tipo de avance que cambia cómo entendemos estos modelos. Y si eres solo usuario, cachai que la próxima vez que le preguntas algo a Claude, puede que ya haya pensado la respuesta antes de que termines de escribir.
La verdad es que la IA nos está sorprendiendo cada vez más. Y este tipo de hallazgos me hacen querer seguir de cerca lo que viene, porque claramente estamos solo en la punta del iceberg.
Fuente de inspiración: A global workspace in language models – Anthropic
