ggml-org نسخه llama.cpp b12029 را منتشر کرده است؛ نسخه جدیدی از نرمافزار اجرای مدلهای زبانی. یادداشتهای انتشار فقط به یک تغییر اشاره میکنند: اصلاح ترتیب توکن CLS در InternVL؛ توکنی ویژه که هنگام پردازش ورودی چندرسانهای به کار میرود. فایلهای دانلودی برای macOS، iOS و چند پیکربندی لینوکس، از جمله نسخههای CPU و Vulkan، ارائه شدهاند. یادداشتهای انتشار توضیح نمیدهند که این اصلاح بر کدام کاربران یا کارها اثر میگذارد.
چرا مهم است
کسانی که InternVL را با llama.cpp اجرا میکنند ممکن است از اصلاح ترتیب توکن بهره ببرند، اما یادداشتهای انتشار درباره اثر عملی یا دامنه این اصلاح توضیحی نمیدهند.