نسخه b11868 از ggml-org/llama.cpp شیوه مدیریت فلشاَتِنشن چندهستهای HMX در Hexagon را تغییر میدهد. این نسخه تنظیمهای جداگانه `FA_HEAD_SPLIT` و `FA_SPLIT` را با یک پرچم، یعنی `GGML_HEXAGON_FA_SPLIT`، جایگزین میکند.
وقتی مقدار این پرچم 1 باشد، کار را میتوان بین سرهای KV تقسیم کرد و اگر تعداد سرهای KV از تعداد هستهها کمتر باشد، آن را بین تیمها هم تقسیم کرد تا هستههایی که در غیر این صورت بیکار میمانند، در پردازش مشارکت کنند. در توضیحات انتشار، اجرای Gemma 4 با دو سر KV روی چهار هسته بهعنوان نمونه آمده است.
چرا مهم است
برای کسانی که llama.cpp را روی سختافزار Hexagon اجرا میکنند، هدف این تغییر آن است که وقتی تعداد سرهای KV مدل از تعداد هستهها کمتر است، هستههای بیشتری در پردازش مشارکت کنند؛ توضیحات انتشار میزان افزایش سرعت را اعلام نمیکند.