Oossa

پشتیبانی llama.cpp از حداکثر ۲۵۶ نشانگر تک‌توکنی

کتابخانه متن‌باز llama.cpp اکنون می‌تواند حداکثر ۲۵۶ نشانگر گزینهٔ متمایز را برای مدل‌های Granite switch نگاشت کند.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

پروژهٔ llama.cpp نسخهٔ جدیدی (b11707) منتشر کرده که قابلیتی به نام GraniteSwitchDecisionFullOptions به آن اضافه می‌کند. این قابلیت به هر مدل switch اجازه می‌دهد به‌جای ۶۶ نشانگر قبلی، از حداکثر ۲۵۶ نشانگر تک‌توکنی منحصربه‌فرد استفاده کند. کد به‌طور خودکار مشخص می‌کند کدام نویسه‌ها در واژگان هر مدل، توکن‌های تک‌توکنی هستند. این تغییر در لایهٔ تبدیل C++ اعمال شده و در یادداشت‌های انتشار توضیح داده شده است.

چرا مهم است

توسعه‌دهندگان می‌توانند برای مدل‌های Granite پرامپت‌های تصمیم‌گیری غنی‌تری بسازند، بی‌آنکه لازم باشد فهرست توکن‌ها را دستی تهیه کنند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.