Oossa

Unsloth suma Flint, MOSS-Image y Nemotron Bolt 4B

La versión del 23 de octubre de Unsloth añade compatibilidad local con tres modelos, una instalación de escritorio solo para chat y una API para ajustar modelos localmente.

Por Publicado por Oossa: 1 min de lectura

Daniel Eliashevskyi · Unsplash

La versión 0.1.910-beta de Unsloth añade compatibilidad con Flint, de Recursive; MOSS-Image, de OpenMOSS; y Nemotron Bolt 4B, de NVIDIA. Según el anuncio, los usuarios pueden ejecutar los modelos localmente mediante Unsloth. También incorpora una instalación más pequeña de Unsloth Desktop, solo para chat; más adelante, los usuarios pueden añadir funciones de entrenamiento desde Settings.

Flint es un modelo de mezcla de expertos con 40.000 millones de parámetros, un diseño que activa solo una parte de ellos para cada tarea. Según Unsloth, Flint utiliza 2.500 millones de parámetros activos, admite un contexto de 256.000 tokens y puede funcionar con 24 GB de memoria si se usa una cuantización de 3 bits y contextos cortos. El anuncio informa de una puntuación de 89,7 en SWE-bench Pro v2, frente a 73,8 de Qwen 3.6, pero no especifica las condiciones de la prueba ni quién realizó la evaluación.

Generación de imágenes y ajuste local

MOSS-Image es un modelo de imágenes con 5.100 millones de parámetros que puede generar imágenes con texto en inglés o chino. Unsloth afirma que funciona en GPU con 16 GB de memoria; sus versiones GGUF también pueden ejecutarse en Mac y en computadoras sin una GPU compatible. El anuncio no incluye comparaciones de calidad de imagen ni datos de rendimiento.

Nemotron Bolt 4B es una versión de Gemma 4 E4B ajustada por NVIDIA para el razonamiento y concebida para usar herramientas y seguir instrucciones. Unsloth informa de una puntuación de 63,2 en Tau2-Bench, frente a 38,7 del modelo original, y afirma que Gemma Nemotron 4B superó a Gemma 4 E4B en 16 de las 21 pruebas de NVIDIA. Son resultados publicados en el anuncio, que no incluye las condiciones de las pruebas ni una validación independiente.

Para quienes entrenan modelos, Unsloth también indica que su nueva API de ajuste fino es compatible con el SDK de OpenAI para cargar conjuntos de datos y ejecutar un ajuste fino supervisado en modelos locales. El anuncio describe Unsloth Desktop como gratuito y de código abierto, con descargas para Windows, macOS y Linux.

Por qué importa

Según el anuncio, MOSS-Image podría ofrecer a quienes tienen una GPU de 16 GB una forma de generar imágenes con texto en inglés o chino mediante Unsloth. La cifra de 24 GB de memoria para Flint solo se aplica con cuantización de 3 bits y contextos cortos; además, el anuncio no ofrece resultados de pruebas independientes ni suficientes detalles para comparar sus puntuaciones de referencia de forma fiable.

¿Te resultó útil este artículo?
Compartir

Sigue leyendo

Oossa · Boletín

La semana en IA, explicada

Cada lunes: las noticias que vale la pena conocer, en lenguaje sencillo. Gratis, sin spam.