← Alle KI-Begriffe
Was bedeutet Mixture of Experts?
Mixture of Experts (MoE)
Ein Modellaufbau, der das Netz in viele „Experten“ aufteilt und pro Wort nur wenige nutzt. So werden große Modelle günstiger im Betrieb.
Nachrichten zu Mixture of Experts
- llama.cpp b11755 ergänzt fehlenden MoE-Kernel für 9 Experten
- llama.cpp skaliert MoE-Experten jetzt pro Token
- Ollama ergänzt Flint-Coding-Modell in Version 0.40.8‑rc0
- Recursive stellt Flint vor, ein Coding-Modell mit 40B Parametern
- llama.cpp speichert MoE-Experten jetzt im GPU-Cache
- Meta veröffentlicht Muse Spark Open, ein multimodales MoE-Modell mit 816 Mrd. Parametern