← Todos los términos de IA
¿Qué significa Mezcla de expertos?
Mezcla de expertos (MoE)
Un diseño de modelo que divide la red en muchos «expertos» y usa solo unos pocos por palabra, lo que abarata la ejecución de modelos grandes.
Noticias que mencionan Mezcla de expertos
- llama.cpp b11755 añade el kernel MoE que faltaba para 9 expertos
- llama.cpp escala cada token por experto en modelos MoE
- Recursive lanza Flint, un modelo de código abierto con 40.000 millones de parámetros
- Ollama incorpora el modelo de programación Flint en la v0.40.8‑rc0
- llama.cpp añade una caché de GPU para expertos MoE
- NVIDIA lanza Nemotron 3 Nano Omni, un modelo multimodal abierto de 30B