Oossa

افزودن کرنل‌های سریع‌تر GELU برای CPU در llama.cpp نسخه b11786

این به‌روزرسانیِ محیط اجرای متن‌باز LLM، محاسبات CPU را تغییر می‌دهد تا توابع GELU را با دقت کامل و بدون جدول جست‌وجو محاسبه کند.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

پروژه ggml‑org/llama.cpp نسخه b11786 را در 2026-10-21 منتشر کرد. این به‌روزرسانی کرنل‌های جدیدی برای CPU اضافه می‌کند که توابع f32 gelu_quick و geglu_quick را مستقیماً محاسبه می‌کنند و نیاز به جدول جست‌وجوی fp16 را از بین می‌برند. آزمون‌هایی هم برای این کرنل‌ها اضافه شده و موارد آزمون قدیمی inf/nan حذف شده‌اند. اکنون فایل‌های باینری ازپیش‌ساخته برای macOS، iOS و چند توزیع لینوکس برای دانلود در دسترس‌اند.

چرا مهم است

توسعه‌دهندگان می‌توانند LLMها را سریع‌تر روی CPU اجرا کنند، چون کرنل‌های جدید از جدول جست‌وجوی کندتر بی‌نیازند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.