Liquid AI ha pubblicato su Hugging Face un’esportazione a 8 bit del suo modello decisionale d1-omni-600M. La versione, chiamata d1-omni-600M-MLX-8bit, funziona su Apple Silicon con la libreria MLX-vlm e occupa appena 0,73 GB, circa il 60% della dimensione originale. Può rispondere in un unico passaggio a diverse domande specifiche e formulate su un input testuale, un’immagine o un audio, senza generare token. Il repository include un comando pip install e codice di esempio per interrogare il modello su testo, immagini e audio.
Perché conta
Gli sviluppatori possono ora eseguire localmente sui Mac modelli decisionali multimodali senza bisogno di una GPU, aprendo la strada ad applicazioni edge più rapide, come lo smistamento automatico delle richieste di assistenza.
