Oossa

انتشار llama.cpp نسخه b11784 با رفع کرش Sycl iq3

نسخه b11784 اجراکننده متن‌باز مدل‌های زبانی بزرگ llama.cpp، با رفع کرش در Sycl iq3 و فایل‌های آماده برای macOS، iOS، Linux و CUDA منتشر شد.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

تیم ggml‑org نسخه b11784 از llama.cpp را منتشر کرد. این نسخه کرش در بک‌اند Sycl iq3 را برطرف می‌کند. فایل‌های باینری آماده برای Apple Silicon، مک‌های Intel، iOS و پیکربندی‌های مختلف Ubuntu، از جمله Vulkan و CUDA 12.8، ارائه شده‌اند. این فایل‌ها از صفحه انتشار GitHub قابل دانلود هستند.

چرا مهم است

توسعه‌دهندگان می‌توانند llama.cpp را بدون کرش روی سخت‌افزارهای بیشتری اجرا کنند و دسترسی به اجرای محلی مدل‌های زبانی بزرگ را گسترش دهند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.