A Liquid AI publicou no Hugging Face uma versão de 8 bits do modelo de decisão d1-omni-600M. Chamada d1-omni-600M-MLX-8bit, ela roda em Apple Silicon usando a biblioteca MLX-vlm e ocupa apenas 0,73 GB, cerca de 60% do tamanho original. O modelo pode responder, em uma única passagem, a várias perguntas identificadas e tipadas sobre uma entrada de texto, imagem ou áudio, sem gerar tokens. O repositório inclui um comando de instalação via pip e exemplos de código para consultas sobre texto, imagens e áudio.
Por que importa
Agora, desenvolvedores podem executar modelos multimodais de decisão localmente em Macs sem precisar de uma GPU, viabilizando aplicações de borda mais rápidas, como a triagem automatizada de solicitações de suporte.
