گروه ggml‑org نسخه b12206 از llama.cpp را منتشر کرد. این به‌روزرسانی مشکل کش MoE (ترکیب متخصص‌ها) را برطرف می‌کند تا بخش CPU دیگر منتظر متخصص‌های ذخیره‌شده در کش نماند. فایل‌های اجرایی ازپیش‌ساخته‌شده اکنون برای macOS با Apple Silicon، macOS با پردازنده Intel، iOS و چند پیکربندی اوبونتو، از جمله x64، arm64 و s390x با پشتیبانی از Vulkan یا zDNN، در دسترس‌اند.
چرا مهم است
توسعه‌دهندگان می‌توانند مدل‌های زبانی بزرگ را سریع‌تر روی دستگاه‌های خود اجرا کنند، بی‌آنکه گلوگاه CPU ناشی از شیوه پیشین کش‌کردن MoE سرعت کار را کاهش دهد.
