Oossa

NVIDIA Nemotron 3.5 Super VL登陆 SageMaker JumpStart

AWS 客户可部署 NVIDIA 的这款模型,用于处理图像、视频和文本;平台提供推理版和定制版。

简讯作者: Oossa 发布日期: 1 分钟阅读

AWS 已将 NVIDIA Nemotron 3.5 Super VL 添加到 Amazon SageMaker JumpStart——这是一个用于部署基础模型的目录。该模型可接收图像、视频和文本作为输入,并生成文本,可用于文档分析、视频问答和图形界面理解等任务。

它支持最长 1 million tokens 的上下文长度。JumpStart 提供适用于指定 G7 实例的 NVFP4 推理版本,以及用于在 ml.p5en.48xlarge 实例上进行定制的 BF16 参考权重;AWS 表示,后者支持微调及其他适配方法。

为什么重要

借助 SageMaker JumpStart,开发文档或视频应用的 AWS 客户可以部署该模型;需要模型具备特定领域能力的客户则可以定制 BF16 权重。原文未提供价格或性能对比。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。