Laboratorio
Dos modelos mirando la misma compra: 314 ms contra 8,4 segundos
Siempre estoy probando modelos que salen, comerciales u open source. Hace poco tuve acceso anticipado a Jev, de TypeSafe AI, un modelo que ellos llaman de “Sistema 1”.
El nombre viene de Kahneman: Sistema 1 es rápido, intuitivo, automático; Sistema 2 es lento, deliberado, analítico. Los LLM que usamos hoy se parecen al Sistema 2: razonan, explican, redactan. Jev es otra cosa. No es para chatear. Responde con valores tipados, una opción, un puntaje o una probabilidad, no con texto. Según el proveedor responde entre 70 y 500 ms y es mucho más rápido y barato que un modelo de frontera, aunque esas cifras son suyas.
Para probarlo armé en Google AI Studio un interceptor de fraude simulado, con transacciones sintéticas, donde Jev y Gemini 3.1 Flash Lite evalúan lo mismo en paralelo.
Los dos casos
Compra en un exchange cripto después de un cambio de credenciales. Jev la bloqueó en 314 ms, con 99% de confianza en la decisión y 81% de probabilidad de fraude. Gemini coincidió, tardó 8,4 segundos y además redactó el informe.
Compra recurrente en un supermercado, sin cambios de dispositivo ni de red. Jev la aprobó en 311 ms, con 85% de confianza y 12% de probabilidad de fraude. Gemini pidió doble factor por una frecuencia inusual: dos operaciones por hora para una suscripción mensual.
Cuando los dos coinciden, la ventaja está en velocidad y costo. En esos casos Jev fue unas 27 y 28 veces más rápido y, con precios de lista, unas 35 veces más barato por llamada. Cuando no coinciden, el Sistema 2 sirve como auditor del caso dudoso.
Lo que me llevo
No es un benchmark, es una demo. Pero me dejó una idea clara: en muchos flujos de mi trabajo la decisión no necesita texto, necesita un valor que el sistema pueda usar. Clasificar un incidente y validar su severidad al ingresar, enrutar una conversación de WhatsApp o preclasificar el riesgo de una solicitud de cambio antes de que la revise una persona.
La pregunta que me quedó no es si el modelo es mejor. Es si agregar una capa de validación rápida aporta velocidad, costo y consistencia de formato, dejando al LLM como auditor de los casos dudosos.
El código de la demo está publicado con datos sintéticos y se ejecuta localmente con claves propias. La conversación completa la dejé en LinkedIn.