← همه اصطلاحات هوش مصنوعی
ترکیب متخصصان یعنی چه؟
ترکیب متخصصان (MoE)
طراحیای که شبکه را به «متخصصان» زیادی تقسیم میکند و برای هر واژه فقط چند تا را به کار میگیرد؛ این کار اجرای مدلهای بزرگ را ارزانتر میکند.
خبرهایی درباره ترکیب متخصصان
- Recursive مدل کدنویسی ۴۰ میلیاردپارامتری Flint را عرضه کرد
- مدل کدنویسی Flint به Ollama نسخه 0.40.8‑rc0 اضافه شد
- llama.cpp برای متخصصان MoE حافظهٔ نهان GPU افزود
- افزودن مقیاسدهی توکنیِ متخصصها به llama.cpp
- انتشار مدل چندوجهی متنباز Nemotron 3 Nano Omni 30B از NVIDIA
- انتشار llama.cpp نسخه b11755 با کرنل MoE برای ۹ کارشناس