Oossa

تغییر در پیکربندی ساخت SYCL در llama.cpp b12032

نسخه llama.cpp b12032 روش پیدا کردن کتابخانه‌ها و فایل‌های سرآیند Level Zero در ساخت‌های SYCL را تغییر می‌دهد و نسخه‌های قابل‌دانلودی برای چند پلتفرم ارائه می‌کند.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

تیم ggml-org نسخه llama.cpp b12032 را منتشر کرده است؛ نسخه‌هایی برای دانلود در macOS، iOS و چند سیستم لینوکس در دسترس‌اند. طبق یادداشت‌های انتشار، تنها تغییر کد این است که ساخت‌های SYCL برای یافتن فایل‌های سرآیند و کتابخانه‌های Level Zero از PkgConfig هم استفاده می‌کنند. در این یادداشت‌ها به تغییری در کیفیت مدل یا سرعت اجرا اشاره نشده است.

چرا مهم است

توسعه‌دهندگانی که llama.cpp را با SYCL می‌سازند، حالا راه دیگری برای پیدا کردن وابستگی‌های Level Zero دارند؛ یادداشت‌های انتشار مشخص نمی‌کنند کدام پیکربندی‌ها از این تغییر بهره می‌برند یا آیا عملکرد بهتر می‌شود.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.