AWS har lagt till NVIDIA Nemotron 3.5 Super VL i Amazon SageMaker JumpStart, katalogen för driftsättning av grundmodeller. Modellen tar bilder, video och text som indata och genererar text. Den kan bland annat användas för dokumentanalys, att besvara frågor om video och att tolka grafiska gränssnitt.
Modellen stöder kontextfönster på upp till 1 miljon token. JumpStart erbjuder en NVFP4-variant för inferens på angivna G7-instanser och BF16-referensvikter på en ml.p5en.48xlarge-instans för anpassning. AWS uppger att den senare stöder finjustering och andra anpassningsmetoder.
Varför det spelar roll
AWS-kunder som utvecklar dokument- eller videoapplikationer kan driftsätta modellen via SageMaker JumpStart. Den som behöver ett beteende anpassat till en viss domän kan anpassa BF16-vikterna. Källan innehåller inga uppgifter om pris eller prestandajämförelser.