Oossa

انتشار llama.cpp با پشتیبانی از GQA و قابلیت‌های تازهٔ توکن‌ساز

کتابخانهٔ متن‌باز llama.cpp حالا از مدل‌های GQA غیراستاندارد و توکن‌ساز BPE پشتیبانی می‌کند و نسخه‌های آن برای پلتفرم‌های بیشتری عرضه شده است.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

تیم ggml‑org نسخهٔ b11819 از llama.cpp را در 2026-10-22 منتشر کرد. این به‌روزرسانی پشتیبانی از مدل‌های GQA (توجه به پرس‌وجوی گروهی) غیراستاندارد و توکن‌ساز BPE (رمزگذاری جفت‌بایتی) را اضافه می‌کند و همچنین شامل نوع پیش‌پردازش تازهٔ domyn‑small است. افزون بر این، مدیریت فراداده برای طرح‌های پیشوندگذاری Metaspace به آن اضافه شده است. فهرست ساخت‌ها اکنون هدف‌های پردازشی و گرافیکی متعددی را در بر می‌گیرد؛ از جمله Apple Silicon، CUDA 12/13، Vulkan، ROCm و Android Snapdragon.

چرا مهم است

توسعه‌دهندگان حالا می‌توانند دامنهٔ گسترده‌تری از مدل‌های زبانی بزرگ، از جمله مدل‌های مبتنی بر GQA، را روی دستگاه‌های بیشتری مانند گوشی‌های هوشمند و پردازنده‌های گرافیکی اجرا کنند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.