← Todos os termos de IA
O que significa Mistura de especialistas?
Mistura de especialistas (MoE)
Um projeto de modelo que divide a rede em muitos “especialistas” e usa só alguns para cada palavra, deixando modelos grandes mais baratos de rodar.
Notícias que mencionam Mistura de especialistas
- llama.cpp adota escala por token para especialistas em modelos MoE
- llama.cpp b11755 adiciona kernel MoE para tokens com 9 especialistas
- llama.cpp adiciona cache de GPU para especialistas MoE
- Ollama inclui o modelo de programação Flint na versão 0.40.8‑rc0
- Recursive lança Flint, modelo de código aberto com 40 bilhões de parâmetros
- Meta lança Muse Spark Open, modelo multimodal de 816 bilhões de parâmetros