Liquid AI publicó en Hugging Face una versión exportada de 8 bits de su modelo de decisión d1-omni-600M. La versión, llamada d1-omni-600M-MLX-8bit, funciona en Apple Silicon con la biblioteca MLX-vlm y ocupa solo 0,73 GB, alrededor del 60 % del tamaño original. Puede responder en una sola pasada varias preguntas específicas y tipadas sobre una entrada de texto, imagen o audio, sin generar tokens. El repositorio incluye un comando de instalación con pip y ejemplos de código para consultas de texto, imagen y audio.
Por qué importa
Los desarrolladores ya pueden ejecutar modelos de decisión multimodales localmente en Mac sin necesidad de una GPU, lo que permite crear aplicaciones de borde más rápidas, como la clasificación automática de solicitudes de asistencia.
