Oossaهوش مصنوعی به‌سرعت پیشرفت می‌کند. ما آن را ساده توضیح می‌دهیم.

پشتیبانی llama.cpp از pooling طبقه‌بندی برای rerankerها

کتابخانه llama.cpp اکنون از classifier_pooling پشتیبانی می‌کند و استفاده از rerankerهای ModernBERT را در پلتفرم‌های مختلف بهبود می‌دهد.

خبر کوتاهOossa1 دقیقه مطالعه

پروژه متن‌باز llama.cpp نسخه جدیدی منتشر کرده که از classifier_pooling، تنظیمی مورد استفاده در rerankerهای ModernBERT، پشتیبانی می‌کند. این تغییر به کتابخانه امکان می‌دهد نوع pooling را بخواند و بنویسد؛ اگر این گزینه مشخص نشده باشد، مقدار پیش‌فرض mean خواهد بود. همچنین نام فیلد داخلی به pooling_type_cls تغییر کرده است. این به‌روزرسانی برای طیف گسترده‌ای از سیستم‌عامل‌ها و سخت‌افزارها، از مک‌های مجهز به Apple Silicon تا پردازنده‌های گرافیکی لینوکس و دستگاه‌های اندرویدی، در دسترس است.

چرا مهم است

این تغییر استفاده از llama.cpp را برای کارهای جست‌وجو و رتبه‌بندی در دستگاه‌های مختلف آسان‌تر می‌کند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.

منابع و ارجاع‌ها

#منبعرسانهتاریخنکته اصلی
1ggml-org/llama.cpp b11273 ↗llama.cpp۸ مهر ۱۴۰۵<details open> model : support classifier_pooling for rerankers (#29627) * model : support classifier_pooling for ModernBERT rerankers Assis

1 منبع

آخرین به‌روزرسانی: ·Markdown·llms.txt