کتابخانه متن‌باز llama.cpp نسخه b11680 را در 16 اکتبر 2026 منتشر کرد. این به‌روزرسانی کدهای مربوط به NPUهای Hexagon را به‌طور اساسی بازنگری می‌کند: یک راه‌حل موقت را حذف می‌کند، بازچینی تانسور را برای وزن‌های F16/F32/BF16 می‌افزاید و از tiled Q5_K get-rows و تانسورهای خام k-quant پشتیبانی می‌کند. این تغییرات همچنین بسیاری از کرنل‌های داخلی را مرتب می‌کند و کارایی را در چندین بک‌اند، از جمله CPU، CUDA، Vulkan و دستگاه‌های مجهز به Hexagon، بهبود می‌دهد. این پروژه نسخه‌هایی برای macOS، Linux، Android، Windows و چندین پیکربندی openEuler ارائه می‌کند.
چرا مهم است
توسعه‌دهندگان اکنون می‌توانند مدل‌های llama.cpp را با کارایی بیشتری روی گوشی‌های مجهز به Hexagon و سخت‌افزارهای تخصصی دیگر اجرا کنند.
