Amazon SageMaker AI ने घोषणा की है कि उसके सर्वरलेस मॉडल कस्टमाइज़ेशन जॉब अब उपयोगकर्ता की तय की हुई सीक्वेंस लंबाई स्वीकार कर सकते हैं। पहले इन जॉब में टोकन की संख्या तय रहती थी। अब उपयोगकर्ता SFT और DPO जॉब के लिए dataset_max_len, या RFT जॉब के लिए max_prompt_length और max_response_length सेट कर सकते हैं। यह सीमा मॉडल की प्रकाशित अधिकतम लंबाई तक हो सकती है—जो अक्सर 16,000 टोकन होती है। यह सुविधा US East (N. Virginia), US West (Oregon), Asia Pacific (Tokyo) और Europe (Ireland) में उपलब्ध है।
यह क्यों मायने रखता है
डेवलपर कस्टम ट्रेनिंग कोड लिखे बिना बड़े भाषा मॉडल को लंबे दस्तावेज़ों पर फाइन-ट्यून कर सकते हैं।
