Oossa

هشدار جدید llama.cpp درباره استفاده از draft‑p‑min

نسخه جدید هنگام ترکیب پرچم p_min با نمونه‌گیری احتمالاتیِ پیش‌نویس هشدار می‌دهد تا از حذف ناخواسته توکن‌ها جلوگیری شود.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

کتابخانه متن‌باز llama.cpp نسخه b12364 را در 2026-11-13 منتشر کرد. این نسخه اگر پرچم --spec-draft-p-min هنگام استفاده از نمونه‌گیری احتمالاتیِ پیش‌نویس فعال باشد، هشدار ثبت می‌کند و پیشنهاد می‌دهد مقدار p_min روی صفر تنظیم شود. این تغییر، آستانه p_min را برای پیش‌نویس‌های MTP و DFlash2 نادیده می‌گیرد؛ چون این آستانه پیش‌تر ممکن بود توکن‌هایی را حذف کند که مدل هدف می‌پذیرفت. هشدار فقط برای مولدهای پیش‌نویسی نمایش داده می‌شود که واقعاً از p_min استفاده می‌کنند تا برای مولدهای n‑gram و DSpark پیام‌های اضافی ایجاد نشود.

چرا مهم است

توسعه‌دهندگان می‌توانند هنگام تنظیم دقیق مدل‌های پیش‌نویس از حذف بی‌صدای توکن‌ها جلوگیری کنند و به تولید مطمئن‌تری برسند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.