Oossa

llama.cpp نسخه b11501 با بهینه‌سازی SYCL و باینری‌های تازه منتشر شد

کتابخانه متن‌باز Llama.cpp در ۸ اکتبر ۲۰۲۶ به نسخه b11501 رسید؛ این نسخه بهینه‌سازی‌هایی برای تبدیل سریع Walsh-Hadamard در SYCL و باینری‌های آماده برای macOS، iOS و چند پیکربندی گرافیکی اوبونتو دارد.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

تیم ggml-org نسخه b11501 از llama.cpp را در ۸ اکتبر ۲۰۲۶ منتشر کرد. این به‌روزرسانی بهینه‌سازی‌هایی برای تبدیل سریع Walsh-Hadamard در SYCL (رابط برنامه‌نویسی محاسباتی چندسکویی) دارد که می‌تواند اجرای برخی عملیات ماتریسی را سرعت ببخشد. همچنین باینری‌های آماده اجرا برای Apple Silicon و Intel در macOS، iOS و نسخه‌های اوبونتو با پشتیبانی از CPU، Vulkan و CUDA 12.8 ارائه می‌کند.

چرا مهم است

توسعه‌دهندگان حالا می‌توانند مدل‌های Llama را روی GPUهای سازگار با SYCL سریع‌تر اجرا کنند و دیگر نیازی نیست خودشان کتابخانه را بسازند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.