Oossa

پشتیبانی llama.cpp از ترکیب مدل‌های مختلف GPU با SYCL

کتابخانه متن‌باز Llama.cpp در ۷ اکتبر ۲۰۲۶ نسخه b11464 را منتشر کرد؛ این نسخه مشکلی در SYCL را برطرف می‌کند که مانع اجرای هم‌زمان مدل‌های مختلف GPU می‌شد.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

پروژه llama.cpp نسخه b11464 را در ۷ اکتبر ۲۰۲۶ منتشر کرد. این به‌روزرسانی باگ SYCL (استانداردی برای محاسبات ناهمگن) را برطرف می‌کند که مانع اجرای هم‌زمان مدل‌های مختلف GPU می‌شد. این تغییر در فایل ggml‑sycl.cpp اعمال شده و Georgi Gerganov نیز در نگارش آن همکاری داشته است. در این نسخه، هدف‌های ساخت متعددی هم فهرست شده‌اند؛ از Apple Silicon در macOS گرفته تا CUDA 13.4 در Linux و پلتفرم‌های Snapdragon در Android.

چرا مهم است

توسعه‌دهندگان اکنون می‌توانند Llama.cpp را بدون خطا روی سیستم‌هایی با GPUهای مختلف اجرا کنند و از سخت‌افزارهای متنوع‌تری پشتیبانی کنند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.