تیم ggml‑org نسخه b11784 از llama.cpp را منتشر کرد. این نسخه کرش در بکاند Sycl iq3 را برطرف میکند. فایلهای باینری آماده برای Apple Silicon، مکهای Intel، iOS و پیکربندیهای مختلف Ubuntu، از جمله Vulkan و CUDA 12.8، ارائه شدهاند. این فایلها از صفحه انتشار GitHub قابل دانلود هستند.
چرا مهم است
توسعهدهندگان میتوانند llama.cpp را بدون کرش روی سختافزارهای بیشتری اجرا کنند و دسترسی به اجرای محلی مدلهای زبانی بزرگ را گسترش دهند.