سازمان ggml نسخه b12362 از llama.cpp را منتشر کرد. این بهروزرسانی با افزودن تجزیه از چپ به راست، تطبیق گرامر را سریعتر میکند، درخت نحوی انتزاعی را برای تجزیه میافزاید و تعداد قواعد جایگزین را محدود میکند. برای حفظ پایداری تجزیهگر، چند تغییر اخیر بازگردانده شدهاند. اکنون ساخت برنامه از طیف گستردهای از پلتفرمها، از macOS با Apple Silicon تا Windows با CUDA 13، پشتیبانی میکند.
یادداشتهای انتشار از پشتیبانی Linux، Android، Windows و چندین بکاند پردازنده گرافیکی، از جمله Vulkan و OpenCL، خبر میدهند.
چرا مهم است
توسعهدهندگان میتوانند مدلهای زبانی بزرگ را با پردازش گرامر سریعتر و قابلاعتمادتر روی دستگاههای گوناگون اجرا کنند.