Liquid AI, LFM2.5‑24B‑A2B modelinin yeni bir sürümünü Hugging Face’te yayımladı. MLX formatına dönüştürülen model, MoE yönlendirme kapıları tam hassasiyette tutularak ağırlık başına 6 bit olacak şekilde nicemlendi. Model mlx-lm 0.32.0 veya daha yeni bir sürümle yüklenebiliyor; eski sürümler modeli yüklese de uzmanları yanlış yönlendiriyor. Model, ChatML benzeri bir sohbet şablonu kullanıyor ve işlev çağrısını destekliyor.
Neden önemli
Geliştiriciler, özellikle Apple Silicon kullanan makinelerde, büyük bir akıl yürütme modelini cihazda daha hızlı çalıştırabiliyor.
