Oossa

به‌روزرسانی llama.cpp پشتیبانی از K2 Horizon را برمی‌گرداند

نسخهٔ 9 اکتبر 2026 با رفع خرابی هنگام استفاده از تقسیم‌بندی KV-cache، پشتیبانی از تانسورهای K2 Horizon را دوباره فعال می‌کند.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

تیم ggml‑org نسخهٔ b11528 از llama.cpp را در 2026-10-09 منتشر کرد. این به‌روزرسانی باعث می‌شود کتابخانه نماهای تانسورهای تخصیص‌یافته در حافظهٔ میزبان را مانند گره‌های معمولی در نظر بگیرد و خطای assert قبلی را که هنگام استفاده از گزینهٔ –split-mode tensor رخ می‌داد، برطرف کند. همچنین پشتیبانی از تانسورهای SM را برای شتاب‌دهندهٔ K2 Horizon بازمی‌گرداند. این تغییر در انتشار رسمی GitHub گنجانده شده و برای همهٔ پلتفرم‌های فهرست‌شده، از macOS گرفته تا Windows و Linux، اعمال می‌شود.

چرا مهم است

توسعه‌دهندگان حالا می‌توانند llama.cpp را با کش KV در حالت تقسیم‌شده روی سخت‌افزارهای بیشتری و بدون خرابی اجرا کنند؛ در نتیجه گزینه‌های بیشتری برای استنتاج محلی LLM در دسترس است.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.