تیم ggml‑org نسخه b11465 از llama.cpp را منتشر کرد. این نسخه شامل باینریهای ازپیشساختهشده برای macOS با Apple Silicon (arm64)، macOS اینتل (x64)، iOS و چند نسخه از اوبونتو (CPU، Vulkan و CUDA 12.8) است. همچنین در این انتشار، تغییری در آزمونها اعمال شده تا هنگام آزمایش بازگشت بازگشتی، anchor حفظ شود. همه فایلها از صفحه انتشار GitHub قابل دانلود هستند.
چرا مهم است
توسعهدهندگان حالا میتوانند بدون کامپایلکردن کد، مدلهای زبانی بزرگ را روی سختافزارهای بیشتری بهصورت محلی اجرا کنند.