تیم ggml‑org نسخه b11747 از llama.cpp را منتشر کرد. این نسخه فایلهای اجرایی ازپیشکامپایلشدهای برای macOS با Apple Silicon، مکهای اینتل، iOS و چند نسخه اوبونتو، از جمله نسخههای CPU، Vulkan و CUDA 12.8، ارائه میدهد. در توضیحات انتشار همچنین به وصلهای برای تغییر اندازه Qwen‑VL مطابق با transformers اشاره شده است. کاربران میتوانند بسته مناسب خود را از صفحه انتشار در GitHub دانلود کنند.
چرا مهم است
توسعهدهندگان میتوانند بدون کامپایل از کد منبع، مدلهای LLaMA را بهصورت محلی روی سختافزارهای بیشتری اجرا کنند.