Amazon Bedrock के Advanced Prompt Optimization में अब प्रॉम्प्ट छोटा करने का वैकल्पिक मोड शामिल है। इसे चालू करने पर सेवा ऐसा छोटा प्रॉम्प्ट बनाने की कोशिश करती है, जिसका आपके कस्टम मूल्यांकन में स्कोर मूल प्रॉम्प्ट के बराबर या उससे बेहतर हो। अगर छोटा किया गया प्रॉम्प्ट मूल से लंबा होता है या उसका स्कोर कम आता है, तो मूल प्रॉम्प्ट ही रखा जाता है। यह सुविधा Bedrock पर उपलब्ध किसी भी मॉडल और मूल्यांकन के किसी भी तरीके के साथ काम करती है। जॉब के नतीजों में संपीड़न अनुपात भी दिखता है।
यह क्यों मायने रखता है
डेवलपर प्रॉम्प्ट की गुणवत्ता से समझौता किए बिना बड़े पैमाने के ऐप्लिकेशन में इनपुट टोकन की लागत और लेटेंसी घटा सकते हैं।