AWS добавила NVIDIA Nemotron 3.5 Super VL в Amazon SageMaker JumpStart — каталог моделей для развертывания. Модель принимает на вход изображения, видео и текст и генерирует текст. Среди возможных задач — анализ документов, ответы на вопросы по видео и распознавание графических интерфейсов.
Модель поддерживает контекст длиной до 1 миллиона токенов. В JumpStart доступны вариант NVFP4 для инференса на указанных инстансах G7 и эталонные веса BF16 для настройки на инстансе ml.p5en.48xlarge. По данным AWS, последний вариант поддерживает дообучение и другие методы адаптации.
Почему это важно
Клиенты AWS, разрабатывающие приложения для работы с документами и видео, могут развернуть модель через SageMaker JumpStart. Тем, кому нужно адаптировать ее под конкретную предметную область, доступны веса BF16; в исходном материале нет данных о цене и сравнении производительности.
