Oossa

رفع باگ ترتیب توکن InternVL در llama.cpp b12029

نسخه جدید ggml-org نحوه پردازش توکن CLS در InternVL را اصلاح می‌کند و برای چند پلتفرم قابل دانلود است.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

ggml-org نسخه llama.cpp b12029 را منتشر کرده است؛ نسخه جدیدی از نرم‌افزار اجرای مدل‌های زبانی. یادداشت‌های انتشار فقط به یک تغییر اشاره می‌کنند: اصلاح ترتیب توکن CLS در InternVL؛ توکنی ویژه که هنگام پردازش ورودی چندرسانه‌ای به کار می‌رود. فایل‌های دانلودی برای macOS، iOS و چند پیکربندی لینوکس، از جمله نسخه‌های CPU و Vulkan، ارائه شده‌اند. یادداشت‌های انتشار توضیح نمی‌دهند که این اصلاح بر کدام کاربران یا کارها اثر می‌گذارد.

چرا مهم است

کسانی که InternVL را با llama.cpp اجرا می‌کنند ممکن است از اصلاح ترتیب توکن بهره ببرند، اما یادداشت‌های انتشار درباره اثر عملی یا دامنه این اصلاح توضیحی نمی‌دهند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.