Liquid AI, d1-omni-600M karar modelinin 8 bitlik dışa aktarım sürümünü Hugging Face’te yayımladı. d1-omni-600M-MLX-8bit adlı sürüm, MLX-vlm kütüphanesini kullanarak Apple Silicon’da çalışıyor ve yalnızca 0.73 GB yer kaplıyor; bu, özgün boyutunun yaklaşık %60’ı. Model, metin, görsel veya ses girdisiyle ilgili türü belirtilmiş birden fazla soruyu tek ileri geçişte yanıtlayabiliyor ve çıktı olarak üretilmiş token döndürmüyor. Depoda pip kurulum komutu ile metin, görsel ve ses sorguları için örnek kodlar da bulunuyor.
Neden önemli
Geliştiriciler artık çok modlu karar modellerini GPU’ya ihtiyaç duymadan Mac’lerde yerel olarak çalıştırabiliyor. Bu da otomatik destek talepleri sınıflandırması gibi uç bilişim uygulamalarının daha hızlı çalışmasını sağlıyor.
