AWS hat NVIDIA Nemotron 3.5 Super VL in Amazon SageMaker JumpStart aufgenommen, den Katalog für die Bereitstellung von Foundation-Modellen. Das Modell verarbeitet Bilder, Videos und Text und erzeugt Text. Zu den möglichen Anwendungen zählen die Dokumentenanalyse, Frage-Antwort-Aufgaben zu Videos und das Verständnis grafischer Benutzeroberflächen.
Es unterstützt Kontextlängen von bis zu 1 Million Tokens. JumpStart bietet eine NVFP4-Variante für Inferenz auf bestimmten G7-Instanzen sowie BF16-Referenzgewichte auf einer ml.p5en.48xlarge-Instanz zur Anpassung. Laut AWS lassen sich mit Letzteren Fine-Tuning und weitere Anpassungsmethoden umsetzen.
Warum es wichtig ist
AWS-Kunden, die Anwendungen für Dokumente oder Videos entwickeln, können das Modell über SageMaker JumpStart bereitstellen. Wer ein domänenspezifisches Verhalten benötigt, kann die BF16-Gewichte anpassen. Der Artikel nennt keine Preise oder Leistungsvergleiche.
