AWS ने फाउंडेशन मॉडल तैनात करने के अपने कैटलॉग Amazon SageMaker JumpStart में NVIDIA का Nemotron 3.5 Super VL शामिल किया है। यह मॉडल इनपुट के तौर पर तस्वीरें, वीडियो और टेक्स्ट लेता है और टेक्स्ट तैयार करता है। इसके इस्तेमाल में दस्तावेज़ों का विश्लेषण, वीडियो से जुड़े सवालों के जवाब देना और ग्राफ़िकल इंटरफ़ेस को समझना शामिल है।
यह अधिकतम 1 million tokens की कॉन्टेक्स्ट लंबाई सपोर्ट करता है। JumpStart में तय G7 instances पर इन्फ़रेंस के लिए NVFP4 वेरिएंट और कस्टमाइज़ेशन के लिए ml.p5en.48xlarge instance पर BF16 reference weights उपलब्ध हैं। AWS का कहना है कि दूसरे विकल्प से fine-tuning और अनुकूलन के अन्य तरीके इस्तेमाल किए जा सकते हैं।
यह क्यों मायने रखता है
दस्तावेज़ या वीडियो से जुड़े ऐप बना रहे AWS ग्राहक SageMaker JumpStart के ज़रिए यह मॉडल तैनात कर सकते हैं। डोमेन के हिसाब से इसका व्यवहार ढालने के लिए वे BF16 weights को कस्टमाइज़ कर सकते हैं। स्रोत में कीमत या प्रदर्शन की तुलना नहीं दी गई है।
