ggml-org نسخه b11556 از llama.cpp را منتشر کرد. این بهروزرسانی پشتیبانی زمان اجرا از مدل Prism Bonsai 2 27B را اضافه میکند. همچنین نحوه پردازش تنسورهای Hadamard را اصلاح و کد تبدیل را مرتبتر میکند. فایلهای اجرایی ازپیشساختهشده برای macOS (Apple Silicon و Intel) و Ubuntu (x64، arm64، s390x) ارائه شدهاند.
چرا مهم است
توسعهدهندگان اکنون میتوانند مدل بزرگ 27 میلیاردپارامتری Prism Bonsai 2 را بهصورت محلی روی رایانههای خود اجرا کنند.