Breve · 1 min de lectura
Pequeños modelos abiertos toman decisiones rápidas en un proyecto de entrenamiento local
Un usuario de Reddit publicó modelos pequeños de pesos abiertos que eligen entre distintas opciones y devuelven probabilidades sin generar texto. Según el usuario, el modelo de 0.8B tarda 28 milisegundos en decidir y el de 2B obtuvo un 83.1% en una prueba de cinco benchmarks.
Oossa · Acerca de Oossa
Los modelos, llamados Jeff, son versiones ajustadas de Qwen3.5 y Gemma para tareas de clasificación y otras decisiones. Se les presenta una situación y una lista de opciones, y devuelven una probabilidad para cada una en una sola pasada.
El creador afirma que entrenó los modelos con hardware local y publicó los pesos con licencia Apache 2.0. En un panel de cinco benchmarks, el modelo de 2B obtuvo un 83.1%, una cifra cercana al 83.0% publicado por Jev; las pruebas utilizaron muestras distintas, así que las puntuaciones no son directamente comparables. Según la publicación, Jeff es mucho más débil en razonamiento de varios pasos.
Por qué importa
Los modelos pequeños que devuelven opciones con rapidez podrían ser útiles en aplicaciones donde la velocidad y la ejecución local importan más que el razonamiento complejo.
Fuentes y referencias
| # | Fuente | Medio | Fecha | Idea clave |
|---|---|---|---|---|
| 1 | Trained locally: ultra-fast 0.8B/2B System 1 decision models that match Jev on benchmarks and Doom, ~30 ms per decision (open weights) ↗ | Reddit r/LocalLLaMA | 28 sept 2026 | TL;DR: The Jeff models are a set of Qwen3.5 and Gemma fine-tunes for zero-shot classification: small, efficient, open-weight models with res |
1 fuentes
Última actualización:
Oossa · Boletín
La semana en IA, explicada
Cada lunes: las noticias que vale la pena conocer, en lenguaje sencillo. Gratis, sin spam.