Oossa

El informe de Metis-1.6 detalla dos modelos pequeños y sus fallos

El investigador Giulianno Vollmer afirma que Logos, el modelo de Metis-1.6, obtuvo buenos resultados en pruebas de matemáticas, pero tuvo dificultades con la programación, el seguimiento de instrucciones y el contexto largo.

BrevePor Publicado por Oossa: 1 min de lectura

El informe técnico de Metis-1.6, de Giulianno Vollmer, describe dos modelos de lenguaje creados desde cero: Praxis, con 2.94 mil millones de parámetros, y Logos, con 10.23 mil millones. Según el informe, Logos quedó séptimo entre 17 modelos en 40 pruebas y segundo entre 30 modelos en matemáticas; también señala deficiencias en programación, seguimiento de instrucciones y tareas con contextos largos.

Vollmer detalla varios problemas de entrenamiento, entre ellos un optimizador que nunca llegó a ejecutarse y un error en la recompensa por longitud que podía penalizar respuestas correctas y extensas. El informe indica que Logos se entrenó con 1.02 billones de tokens y que no se diseñó para competir con los modelos de vanguardia.

Por qué importa

Para quienes desarrollan aplicaciones y evalúan modelos más pequeños, el informe ofrece resultados de pruebas y lecciones concretas sobre el entrenamiento. Sin embargo, sus propios hallazgos muestran que Logos flojea en programación y tareas con contextos largos; aquí no se documenta una validación independiente.

¿Te resultó útil este artículo?
Compartir

Sigue leyendo

Oossa · Boletín

La semana en IA, explicada

Cada lunes: las noticias que vale la pena conocer, en lenguaje sencillo. Gratis, sin spam.