ggml-org نسخه llama.cpp b12530 را با بهروزرسانی WebAssembly منتشر کرد: کرنلهای SIMD سهلگیرانه اصلاح شدهاند و پشتیبانی از قالبهای مدل q3_K و q6_K اضافه شده است. صفحه انتشار همچنین لینک دانلود نسخههایی برای macOS، iOS و چند سیستم لینوکسی را دارد.
این نسخه، ازجمله، شامل نسخههای CPU برای Ubuntu x64، arm64 و s390x است. یادداشتهای انتشار مشخص نمیکنند تغییرات WebAssembly چه اثری بر سرعت دارند.
چرا مهم است
توسعهدهندگانی که llama.cpp را برای WebAssembly میسازند، میتوانند از پشتیبانی اضافهشده از q3_K و q6_K استفاده کنند؛ هرچند یادداشتهای انتشار میزان تغییر عملکرد را مشخص نمیکنند.