Oossa

افزوده‌شدن TOP_K_MASK به بک‌اند Vulkan در llama.cpp

کتابخانه متن‌باز llama.cpp پشتیبانی Vulkan را به‌روزرسانی کرده و قابلیت TOP_K_MASK را افزوده است؛ این تغییر همچنین مشکل مربوط به barrierها و اعلان‌های header را برطرف می‌کند.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

پروژه ggml‑org/llama.cpp نسخه جدیدی را در 2026‑11‑13 منتشر کرد. این به‌روزرسانی عملیات TOP_K_MASK را به بک‌اند گرافیکی Vulkan اضافه می‌کند، مشکل barrier مربوط به این ماسک را برطرف می‌کند و تابع را در header مشترک اعلان می‌کند. این تغییرات با کمک Claude Opus 5.5 انجام شده‌اند.

چرا مهم است

کاربران GPU اکنون می‌توانند هنگام استنتاج از ماسک top-k استفاده کنند و کنترل دقیق‌تری بر انتخاب توکن‌ها داشته باشند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.