Liquid AI a publié sur Hugging Face une version 8 bits de son modèle de décision d1‑omni‑600M. Baptisée d1‑omni‑600M‑MLX‑8bit, elle fonctionne sur Apple Silicon avec la bibliothèque MLX‑vlm et ne pèse que 0,73 GB, soit environ 60 % de la taille du modèle d’origine. Elle peut répondre en une seule passe à plusieurs questions formulées et typées sur un texte, une image ou un fichier audio, sans générer de jetons. Le dépôt comprend une commande pip install et des exemples de code pour interroger le modèle à partir de texte, d’images ou d’audio.
Pourquoi c'est important
Les développeurs peuvent désormais exécuter localement des modèles de décision multimodaux sur Mac, sans GPU, et créer ainsi des applications en périphérie plus rapides, comme le tri automatisé des demandes d’assistance.
