Llevamos años con la misma sensación rara: los modelos de lenguaje son impresionantes en una demo y una torta cuando los metes dentro de un sistema de verdad. Yo lo vivo en la pega: el agente que funciona perfecto tres veces seguidas y a la cuarta se inventa un campo que no existe. El problema no es la inteligencia, es la interfaz. Y precisamente por eso me llamó la atención el lanzamiento de esta semana: TypeSafe AI presentó Jev, un modelo que renuncia a generar texto y solo produce decisiones tipadas con probabilidades calibradas.
Sin strings, sin alucinaciones
La idea central es simple de enunciar y radical en las consecuencias. Los LLM tradicionales son autoregresivos: generan un token tras otro, y cada token es una oportunidad para equivocarse o alucinar. Jev, en cambio, genera todas sus salidas en paralelo, y su salida no es texto: es un valor estructurado, definido de antemano, con una probabilidad adjunta. El equipo lo llama System One Model, en referencia al pensamiento rápido e intuitivo de Kahneman, y al método de entrenamiento lo bautizaron RLCD: Reinforcement Learning for Calibrated Decisions.
Las cifras que publican son agresivas: tiempos de respuesta de 70 a 500 milisegundos contra los 3 a 329 segundos de los modelos frontera en tareas comparables, y precios de entrada en el orden de $0.042 por millón de tokens. El fundador viene de OpenAI, donde participó en la investigación detrás de ChatGPT, así que no es exactamente alguien llegando desde cero. Eso sí, merece la dosis de escepticismo de siempre: los benchmarks corrieron desde sus propios laptops, y ellos mismos admiten que no pueden probar que el precio no esté subsidiado.
Por qué me parece relevante y no solo humo
Lo que me convence no es el marketing, es el diagnóstico. Hace rato que pienso que estamos usando la herramienta equivocada para la mitad de los casos de uso. Si necesitas clasificar un ticket, enrutar una solicitud, detectar un jailbreak o puntuar un registro, no necesitas un poeta: necesitas una función con baja latencia y una probabilidad honesta encima. Los LLM de chat son pésimos reportando su propia incertidumbre; el modelo puede acertar el 95% de las veces y nunca avisarte cuándo cayó en el 5% malo, y eso es lo que impide automatizar de verdad. Un modelo que devuelve siempre una confianza calibrada cambia la ecuación: tu código puede decidir automáticamente qué pasa si la confianza es baja.
Hay una segunda lectura que me gusta: la integración con software clásico. Una salida tipada es una fuzzy decision rule que vive dentro de tu programa, no un texto que hay que parsear y rezar. Eso es lo que les falta hoy a los «smart if-statements» con IA: composabilidad y límites claros. Si el modelo no puede producir un type error, la superficie de falla se achica de forma dramática.
Lo que queda por demostrar
No todo está resuelto, claro. Al renunciar a strings, Jev no sirve para nada que requiera generación abierta: ni escribir código, ni redactar, ni razonar largo. Es una herramienta de nicho, aunque un nicho enorme: todo el middle tier de decisiones en producción. Y queda pendiente la validación independiente, que alguien más corra los números y confirme la latencia y el costo en condiciones reales. La historia de startups de IA que prometieron dos órdenes de magnitud de mejora está llena de asteriscos.
Aun así, creo que la dirección es la correcta. El futuro de la IA en software probablemente no es un chatbot en la esquina de la pantalla, sino miles de llamadas silenciosas de baja latencia enterradas en el stack, cada una con su probabilidad impresa. Si Jev cumple lo que promete —o si obliga a OpenAI y Google a hacer algo parecido— habremos ganado todos. Por ahora lo dejo anotado en la lista de cosas que quiero probar cuando salga de early access.
Fuente de inspiración: Introducing System One Models & Jev – TypeSafe AI Blog
