Llevo años siguiendo de cerca la carrera de los modelos grandes, y confieso que cuando vi el anuncio de Kimi K3 el martes pasado, lo primero que hice fue verificar dos veces la cifra: 2,8 billones de parámetros. No es un error de tipeo. Es un modelo de clase 3T, open source, publicado por Moonshot AI, y está disponible hoy mismo en kimi.com, en su IDE y por API. Los pesos completos se liberan el 27 de julio.
¿Qué hay de nuevo bajo el capó?
Kimi K3 no es solo un K2 más grande. Lo que más me llamó la atención son dos piezas nuevas en la arquitectura: Kimi Delta Attention (KDA) y Attention Residuals (AttnRes). El delta attention es una variante sparse de atención que reduce el costo cuadrático del mecanismo clásico, y los AttnRes son una forma elegante de propagar información residual entre bloques sin recalcular todo. Encima, Moonshot escaló la dispersión del Mixture of Experts: activa solo 16 de 896 expertos por token, apoyándose en un marco llamado Stable LatentMoE. El resultado que ellos reportan es una mejora de 2,5 veces en eficiencia de escalado comparada con K2.
El contexto también crece: 1 millón de tokens con visión nativa, lo que ya empieza a ser un estándar entre los modelos de frontera. En el ranking de front-end coding, K3 pasó a Fable 5 y se quedó con el primer lugar con 1679 puntos, según el Arena público.
Lo que me dejó pensando: el caso del compilador
Más allá de los benchmarks, lo que realmente me importa como ingeniero es qué puede hacer en la práctica. Moonshot publicó varios casos de uso y uno me tiene aún con la cabeza dando vueltas: en una corrida autónoma de 48 horas, Kimi K3 diseñó un chip para servir a un nano modelo construido sobre su propia arquitectura. Usó herramientas EDA open source sobre la librería Nangate 45nm, cerró timing a 100 MHz dentro de 4 mm², y simuló más de 8.700 tokens por segundo de decode. Puso 1,46 millones de celdas estándar, 277 KB de SRAM y un array INT4 con dequantization fusionada.
Otro caso igual de impresionante: en dos horas, K3 reprodujo las relaciones universales I–Love–Q de astrofísica computacional. Leyó y cruzó 20 papers, evaluó más de 300 ecuaciones de estado, generó 3.000 líneas de Python y construyó un dashboard HTML interactivo. Lo que a un investigador con experiencia le tomaría una a dos semanas, K3 lo hizo en lo que me tomo un café con una empanada.
Y en software: K3 construyó desde cero MiniTriton, un compilador al estilo Triton con su propio IR a nivel de tile sobre MLIR, pases de optimización y pipeline de generación de PTX. En los benchmarks de roofline, rinde igual o mejor que Triton y torch.compile, y entrena nanoGPT de extremo a extremo con la curva de loss siguiendo a la de referencia. Eso no es vibe coding, es ingeniería real hecha por una IA.
La letra chica que sí hay que leer
Moonshot aclara con honestidad que, en su suite global, K3 todavía queda por debajo de Claude Fable 5 y GPT-5.6 Sol, los modelos propietarios más fuertes. Lo notable es que ya compite de igual a igual en coding agéntico de larga duración y en tareas de knowledge work, donde los modelos open solían quedar bastante atrás. Es un salto cualitativo, no un empate técnico.
También hay que mirar con cuidado los benchmarks de optimización de kernels: en uno de ellos, Fable 5 aparece con fallback behavior, o sea que se le permitió cambiar de táctica a mitad de camino. Eso no es trampa, pero tampoco es comparación limpia, y vale tenerlo presente cuando alguien te venda la superioridad absoluta de un modelo sobre otro.
Por qué me importa a mí, en Chile
Trabajo hace años con modelos grandes desde la pega, y la diferencia entre tener acceso a un modelo de frontera y andar improvisando con uno de 7B es abismal. Que un laboratorio chino publique los pesos completos de un modelo de 2,8T es, para mí, la señal más clara de que el open source en IA ya no va un año detrás: va meses, y en algunos frentes, va parejo. Eso cambia la conversación sobre soberanía tecnológica, sobre qué se puede hacer desde una oficina chica en Santiago, sobre qué proveedores tienen sentido y cuáles no.
Si estás evaluando qué modelo correr on-prem, o simplemente quieres entender hacia dónde va la industria, K3 merece tu atención. No porque sea el más grande, ni el más inteligente, sino porque es la primera vez que un modelo verdaderamente de frontera se entrega completo a la comunidad. Y en este oficio, eso vale más que cualquier ranking.
Fuente de inspiración: Kimi K3: Open Frontier Intelligence
