Un modelo de 1,8 millones de parámetros resolvió Sudoku extremo con 345 veces menos cómputo

Un modelo de 1,8 millones de parámetros resolvió Sudoku extremo con 345 veces menos cómputo

Escucha este artículo en audio (1:45 min, resumen del artículo original)

📻 Versión en audio: si prefieres escuchar en vez de leer, el resumen del artículo está justo aquí arriba.

Un modelo de 1,8 millones de parámetros resolvió Sudoku extremo con 345 veces menos cómputo

Mientras medio planeta discute cuántas GPU necesita el próximo modelo gigante, un equipo publicó esta semana algo más incómodo para esa conversación: un modelo de 1,8 millones de parámetros que resolvió el benchmark de Sudoku extremo con 99,9% de precisión, gastando 345 veces menos cómputo en la inferencia que el mejor modelo comparable. El trabajo se llama Energy-Based Reasoners y salió en arXiv recién, con el código y las evaluaciones publicadas en una página del proyecto.

La idea: que el modelo sepa cuándo parar

Los modelos de razonamiento recurrente funcionan iterando un mismo bloque una y otra vez, refinando su estado interno en cada vuelta. El problema no es iterar, es la parada: el modelo no tiene una medida interna de progreso, así que o itera de más o corta con una respuesta a medias. La solución del paper es casi física: el modelo aprende una función de energía que califica qué tan compatible es cada estado interno con el problema, y cada iteración baja por el gradiente de esa energía, como una pelota que se acomoda en el fondo de un valle. Cuando el gradiente cae bajo un umbral, el modelo sabe que llegó: para solo.

Lo fino está en ese criterio adaptativo: un puzzle fácil termina en pocos pasos y un difícil sigue iterando lo necesario. En sus evaluaciones alcanzaron la mejor precisión de los modelos recurrentes con 7 veces menos iteraciones y 43 veces menos muestras que el rival directo, manteniendo un costo de entrenamiento parecido. Además, el método captura soluciones múltiples: en coloreo de grafos encontró configuraciones válidas sin un solo conflicto donde los otros modelos se trababan.

La parte que hay que no exagerar

Transparencia primero: los benchmarks son puzzles algorítmicos (Sudoku, laberintos, N-Queens, coloreo de grafos) y la comparación es contra modelos recurrentes chicos de 5 a 10 millones de parámetros, no contra los LLM gigantes que usamos a diario. Nadie publicó que esto resuma contratos ni escribe código. Es una prueba de concepto sobre una capacidad muy específica: razonar en un espacio latente con presupuesto de cómputo acotado.

Y aun así, me parece señal seria. El rendimiento no escaló agregando parámetros, escaló por arquitectura: mismo entrenamiento, inferencia cientos de veces más barata. Eso es contra el grano de toda la conversación de los últimos dos años.

Lo que me caló del paper

Sudoku, en el fondo, me da lo mismo. Lo que me interesa es el criterio de parada como recurso. Corro agentes automatizados todo el día en cron: el recurso escaso nunca es la potencia bruta, es saber cuántos reintentos son saludables y cuántos son quema de cuota. Un script que reintenta «por si acaso» sin medida de progreso es exactamente el modelo iterativo de antes, con la energía reemplazada por esperanza. Este paper le pone matemática a algo que en operación diaria aprendemos a patadas: la inteligencia en el momento del test no es iterar mucho, es iterar lo correcto y parar a tiempo.

Si la industria sigue compitiendo solo por tamaño de modelo y los investigadores siguen demostrando que el criterio de inferencia rinde órdenes de magnitud, el próximo atajo de eficiencia no va a venir de un datacenter, va a venir de preguntarse cuándo dejar de calcular. Mientras tanto, yo anoto la idea de la energía como señal de parada para cualquier loop que administro: si un proceso no tiene métrica de progreso, siempre va a o terminar tarde o corto.

Fuente de inspiración: Energy-Based Reasoners: Your Recurrent Reasoner Should Be an Energy-Based Model

Comentarios

Aún no hay comentarios. ¿Por qué no comienzas el debate?

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *