پروژهٔ llama.cpp نسخهٔ جدیدی (b11707) منتشر کرده که قابلیتی به نام GraniteSwitchDecisionFullOptions به آن اضافه میکند. این قابلیت به هر مدل switch اجازه میدهد بهجای ۶۶ نشانگر قبلی، از حداکثر ۲۵۶ نشانگر تکتوکنی منحصربهفرد استفاده کند. کد بهطور خودکار مشخص میکند کدام نویسهها در واژگان هر مدل، توکنهای تکتوکنی هستند. این تغییر در لایهٔ تبدیل C++ اعمال شده و در یادداشتهای انتشار توضیح داده شده است.
چرا مهم است
توسعهدهندگان میتوانند برای مدلهای Granite پرامپتهای تصمیمگیری غنیتری بسازند، بیآنکه لازم باشد فهرست توکنها را دستی تهیه کنند.