# افزایش سرعت نمونه‌گیری top-k در llama.cpp b12094

> نسخه جدید llama.cpp نمونه‌گیری top-k را روی سخت‌افزار Hexagon تغییر می‌دهد و با اسکن‌کردن، از مرتب‌سازی بلوک‌هایی که شانسی برای انتخاب‌شدن ندارند جلوگیری می‌کند. عددی برای میزان افزایش سرعت اعلام نشده است.

Oossa · 2026-11-04 · https://oossa.com/fa/llama-cpp-b12094-speeds-up-hexagon-top-k-sampling

تیم ggml-org در 4 نوامبر 2026 نسخه llama.cpp b12094 را منتشر کرد که مسیر سریع‌تری برای نمونه‌گیری top-k در بک‌اند Hexagon دارد. نمونه‌گیری top-k هنگام تولید متن، از میان گزینه‌هایی که بالاترین امتیاز را دارند انتخاب می‌کند.

این تغییر برای مقادیر k از 2 تا 64 و ردیف‌های دارای بیش از 1,024 ورودی در نظر گرفته شده است. این روش بلوک‌هایی را که نمی‌توانند حاوی نتیجه برتر باشند از مرتب‌سازی کنار می‌گذارد، اما در توضیحات انتشار، سرعت‌سنجی‌ای ارائه نشده است.

## حقایق

- مسیر جدید برای بررسی بلوک‌های 256تایی از عملیات بیشینه‌گیری برداری Hexagon استفاده می‌کند.
- این روش هم برای پردازش تک‌ردیفی و هم چندردیفی به کار می‌رود.

## چرا مهم است

کاربرانی که llama.cpp را روی سخت‌افزارهای پشتیبانی‌شده Hexagon اجرا می‌کنند، برای این workloadها به روشی کارآمدتر برای نمونه‌گیری دسترسی دارند؛ بااین‌حال، در توضیحات انتشار میزان افزایش سرعت در استفاده واقعی مشخص نشده است.

## منابع و ارجاع‌ها

1. [ggml-org/llama.cpp b12094](https://github.com/ggml-org/llama.cpp/releases/tag/b12094) – llama.cpp, 2026-11-04

آخرین به‌روزرسانی: 2026-11-04