تیم ggml‑org نسخه b11806 از llama.cpp را منتشر کرد. این نسخه از وزنهای تاشده prism.hadamard در LoRA پشتیبانی میکند؛ روشی برای کارآمدتر کردن ریزتنظیم. این انتشار همچنین باینریهای ازپیشساختهشدهای برای Apple Silicon، مکهای Intel، iOS و چندین نسخه Linux، از جمله نسخههای CPU، Vulkan و CUDA، ارائه میدهد. کاربران میتوانند بسته مناسب را از صفحه انتشار در GitHub دانلود کنند.
چرا مهم است
توسعهدهندگان اکنون میتوانند مدلهای ریزتنظیمشده با LoRA را روی پلتفرمهای بیشتری و با سرعت بالاتر اجرا کنند، بیآنکه خودشان کد را بسازند.