StepFun现已开放Step 5预览模型的权重。FP8和BF16格式的检查点已发布在Hugging Face和ModelScope上。这是一款稀疏混合专家(MoE)模型,总参数量为6000亿,但每个token仅激活270亿参数。模型支持最长100万token的上下文,面向需要长期规划的智能体任务。
为什么重要
开发者现在可以试用这款规模庞大的开放权重模型,其支持的文本输入长度远超典型的大语言模型。
StepFun发布了这款6000亿参数混合专家模型的FP8和BF16检查点;模型每个token激活270亿参数,支持最长100万token的上下文。
简讯作者: OossaOossa 发布日期: 1 分钟阅读
StepFun现已开放Step 5预览模型的权重。FP8和BF16格式的检查点已发布在Hugging Face和ModelScope上。这是一款稀疏混合专家(MoE)模型,总参数量为6000亿,但每个token仅激活270亿参数。模型支持最长100万token的上下文,面向需要长期规划的智能体任务。
开发者现在可以试用这款规模庞大的开放权重模型,其支持的文本输入长度远超典型的大语言模型。
Oossa · 新闻简报
一周 AI,讲明白
每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。