混合专家是什么意思？

混合专家（MoE）

把网络分成许多“专家”、每个词只调用其中少数几个的模型设计，能让大模型运行更便宜。