Oossa

StepFun开放Step 5预览模型权重

StepFun发布了这款6000亿参数混合专家模型的FP8和BF16检查点;模型每个token激活270亿参数,支持最长100万token的上下文。

简讯作者: Oossa 发布日期: 1 分钟阅读

StepFun现已开放Step 5预览模型的权重。FP8和BF16格式的检查点已发布在Hugging Face和ModelScope上。这是一款稀疏混合专家(MoE)模型,总参数量为6000亿,但每个token仅激活270亿参数。模型支持最长100万token的上下文,面向需要长期规划的智能体任务。

为什么重要

开发者现在可以试用这款规模庞大的开放权重模型,其支持的文本输入长度远超典型的大语言模型。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。