پروژه llama.cpp نسخه جدیدی منتشر کرده که کوانتش Q1_0 و Q2_0 را برای Hexagon NPU کوالکام اضافه می‌کند. این به‌روزرسانی همچنین چیدمان کاشی‌ها و عملیات ضرب داخلی برداری را بهینه می‌کند تا سربار کاهش یابد. این قابلیت در نسخه‌های لینوکس و ویندوز برای پردازنده‌های Snapdragon، پردازنده‌های گرافیکی Adreno و Hexagon NPUها و نیز پلتفرم‌های دیگر کار می‌کند. تغییرات در راهنمای توسعه‌دهندگان مستند شده و در گواهی‌های انتشار امضا شده‌اند.
چرا مهم است
توسعه‌دهندگان حالا می‌توانند مدل‌های زبانی بزرگ‌تری را با تأخیر و مصرف انرژی کمتر روی گوشی‌ها و تبلت‌های مجهز به Snapdragon اجرا کنند.
