ggml‑org نسخه b11555 از llama.cpp را منتشر کرد. این بهروزرسانی باگی را رفع میکند که باعث میشد پردازندههای AVX2، حتی در صورت پشتیبانی، از مجموعه دستورالعمل F16C استفاده نکنند. این نسخه همچنین بستههای باینری جدیدی برای macOS Apple Silicon، macOS Intel، iOS و چند پیکربندی Ubuntu، از جمله با پشتیبانی از Vulkan و CUDA 12.8، ارائه میدهد.
چرا مهم است
توسعهدهندگانی که مدلهای Llama را روی پردازندههای سازگار اجرا میکنند، بدون نیاز به وصلههای دستی از استنتاج سریعتری بهرهمند میشوند.