ggml-org نسخه b11503 از llama.cpp را منتشر کرده است. در این بهروزرسانی، کتابخانهٔ تعبیهشدهٔ cpp-httplib به نسخه 0.60.1 ارتقا یافته است. همچنین فایلهای باینری ازپیشکامپایلشدهٔ جدیدی برای Apple Silicon، مکهای Intel، iOS و چند نسخه از Ubuntu (با CPU، Vulkan و CUDA) ارائه شدهاند. این فایلها از صفحهٔ انتشار در GitHub قابل دانلود هستند.
چرا مهم است
توسعهدهندگان حالا میتوانند مدلهای زبانی بزرگ را روی پلتفرمهای بیشتری بسازند و اجرا کنند و با استفاده از کتابخانهٔ HTTP جدیدتر، دردسرهای یکپارچهسازی را کاهش دهند.