Liquid AI hat eine 8-Bit-Version seines Entscheidungsmodells d1-omni-600M auf Hugging Face veröffentlicht. Die Version mit dem Namen d1-omni-600M-MLX-8bit läuft auf Apple Silicon mit der Bibliothek MLX-vlm und ist mit nur 0,73 GB etwa 60 % so groß wie das Original. Sie kann in einem einzigen Durchlauf mehrere benannte, typisierte Fragen zu einer Text-, Bild- oder Audioeingabe beantworten, ohne dabei generierte Tokens auszugeben. Das Repository enthält einen pip-Installationsbefehl sowie Beispielcode für Text-, Bild- und Audioabfragen.
Warum es wichtig ist
Entwickler können multimodale Entscheidungsmodelle nun lokal auf Macs ohne GPU ausführen. Das ermöglicht schnellere Edge-Anwendungen, etwa die automatische Priorisierung von Supportanfragen.
