AWS 已将 NVIDIA Nemotron 3.5 Super VL 添加到 Amazon SageMaker JumpStart——这是一个用于部署基础模型的目录。该模型可接收图像、视频和文本作为输入,并生成文本,可用于文档分析、视频问答和图形界面理解等任务。
它支持最长 1 million tokens 的上下文长度。JumpStart 提供适用于指定 G7 实例的 NVFP4 推理版本,以及用于在 ml.p5en.48xlarge 实例上进行定制的 BF16 参考权重;AWS 表示,后者支持微调及其他适配方法。
为什么重要
借助 SageMaker JumpStart,开发文档或视频应用的 AWS 客户可以部署该模型;需要模型具备特定领域能力的客户则可以定制 BF16 权重。原文未提供价格或性能对比。