تیم ggml‑org نسخه b12329 از llama.cpp را منتشر کرد. این نسخه بهینه‌سازی CUDAای دارد که مدیریت مقیاس وزن‌ها را با نوشتن حاصل‌ضرب ماتریسی ادغام می‌کند و سرعت کار با چک‌پوینت‌های nvfp4 را افزایش می‌دهد. این به‌روزرسانی همچنین فایل‌های اجرایی ازپیش‌ساخته جدیدی برای Apple Silicon، macOS اینتل، iOS و چند توزیع Linux دارد. این تغییرات از صفحه انتشار GitHub قابل دانلود هستند.
چرا مهم است
توسعه‌دهندگان می‌توانند مدل‌های Llama را با سرعت بیشتری روی پردازنده‌های گرافیکی NVIDIA اجرا کنند و به فایل‌های اجرایی آماده برای پلتفرم‌های بیشتری دسترسی داشته باشند.
