Tu IA no piensa: solo comprime mejor que tu disco duro

Hace unos días me encontré con un artículo en el blog de ngrok que me dejó mirando fijo la pantalla como weón. La tesis era simple, pero demoledora: los compresores de datos y los modelos de lenguaje están resolviendo exactamente el mismo problema. No es metáfora. Es matemática pura.

¿Qué hace un compresor?

Piénsalo un segundo. Cuando pasas un archivo por gzip o Brotli, lo que hace el algoritmo es predecir qué byte viene a continuación. Si acierta, no tiene que escribirlo: solo anota «igual que antes». Cuanto más acierte, más chico queda el archivo.

El truco está en que la predicción no es magia. Se basa en patrones. Si tu texto dice «inteligencia artificial» diez veces, el compresor aprende —en tiempo real— que después de «inteligencia» probablemente viene «artificial». Y con eso ahorra bits.

Y un LLM, ¿qué hace?

Exactamente lo mismo, solo que en vez de bytes predice tokens. Cuando le pedís a Claude o a GPT que termine una oración, no está «pensando» en el sentido humano de la palabra. Está calculando la distribución de probabilidad del siguiente token, dado todo lo que leíste antes.

El artículo de ngrok lo ilustra con una analogía brutal: si un compresor puede reducir un archivo en un 60%, es porque «entendió» la estructura de los datos lo suficiente como para predecirlos. Un LLM que genera código Python coherente no está razonando sobre sintaxis: está prediciendo tokens que, estadísticamente, suelen seguir a otros tokens en código Python.

¿Por qué me importa?

Porque esto cambia cómo evaluamos la inteligencia de estas herramientas. No son oráculos. Son compresores sofisticados con memoria de elefante. Y eso explica dos cosas que veo todos los días en la pega:

• Hallucina cuando no hay patrones claros. Si no hay datos de entrenamiento densos sobre un tema, el modelo inventa —porque no puede «comprimir» lo que no conoce.
• Es increíblemente eficiente en tareas repetitivas. Escribir tests, documentar APIs, rellenar templates: todo eso es compresión con contexto. Y ahí sí brilla.

Mi take personal

Trabajo con modelos locales y en la nube casi todos los días. A veces me sorprendo dándole crédito a la IA como si tuviera intención. Pero recordar que es compresión —nada más, nada menos— me ayuda a usarla mejor. No le preguntás a gzip cómo invertir en bolsa. Tampoco le deberías pedir a un LLM que juzgue seguridad crítica sin auditoría humana.

El artículo original termina diciendo que «esto probablemente te va a volar la cabeza». Y tiene razón. No porque sea complicado, sino porque nos obliga a bajar un cambio: la IA no es un cerebro digital. Es un sistema de predicción estadística que, por pura escala, termina pareciendo uno.

La próxima vez que Claude te escriba un script perfecto, no le agradezcas. Agradecé a la redundancia de los datos de entrenamiento.

Fuente de inspiración: Compression is prediction