Oossa

llama.cpp با نسخه b11706 باگ پردازش پرامپت در SYCL را رفع کرد

نسخه b11706 با رفع مشکل پردازش پرامپت در SYCL، فایل‌های باینری جدیدی برای macOS، iOS، Linux، Vulkan و CUDA ارائه می‌کند.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

کتابخانه متن‌باز llama.cpp در 2026-10-17 نسخه b11706 را منتشر کرد. این به‌روزرسانی باگی را در پردازش پرامپت در SYCL رفع می‌کند که پس از مرتب‌سازی دوباره وزن‌ها در قالب‌های Q4_0/Q8_0 به وجود آمده بود. همچنین فایل‌های باینری ازپیش‌ساخته‌شده‌ای برای Apple Silicon و پردازنده‌های Intel در macOS، iOS و پیکربندی‌های مختلف Linux، از جمله CPU، Vulkan و CUDA 12.8، ارائه می‌کند. این فایل‌ها از صفحه انتشار در GitHub قابل دریافت‌اند.

چرا مهم است

توسعه‌دهندگان اکنون می‌توانند llama.cpp را روی GPUهای سازگار با SYCL، بدون خطا در پردازش پرامپت اجرا کنند؛ در نتیجه گزینه‌های سخت‌افزاری برای استفاده محلی از مدل‌های زبانی بزرگ بیشتر می‌شود.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.