Oossa

نسخه b11721 از llama.cpp ادغام کرنل‌های GPU و بیلدهای تازه را اضافه کرد

محیط اجرای متن‌باز LLM در ۱۸ اکتبر ۲۰۲۶ نسخه‌ای پیش‌انتشار منتشر کرد که چند کرنل GPU را ادغام می‌کند و سیستم‌های بیشتری را پشتیبانی می‌کند.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

پروژه ggml‑org/llama.cpp در ۱۸ اکتبر ۲۰۲۶ نسخه پیش‌انتشاری با برچسب b11721 منتشر کرد. این نسخه زنجیره scale‑sigmoid‑scale در Qwen4exp را در یک کرنل CUDA ادغام می‌کند و قابلیت ادغام HC_POST_GATE در Vulkan را هم اضافه می‌کند؛ در نتیجه تعداد کرنل‌های GPU از چهار به یک کاهش می‌یابد. همچنین بیلدهایی برای طیف گسترده‌ای از پردازنده‌ها و کارت‌های گرافیک ارائه شده است؛ از جمله Apple Silicon، AMD، NVIDIA CUDA 12‑13، ROCm، OpenVINO و پلتفرم‌های Android Snapdragon.

چرا مهم است

به لطف ادغام تازه کرنل‌ها، توسعه‌دهندگان می‌توانند مدل‌های LLM را سریع‌تر و روی سخت‌افزارهای متنوع‌تری اجرا کنند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.