Oossa

Amazon Bedrock में Advanced Prompt Optimization से छोटे होंगे प्रॉम्प्ट

नई वैकल्पिक सेटिंग प्रॉम्प्ट की लंबाई 30% तक घटा सकती है और मूल्यांकन स्कोर बनाए रख सकती है या बेहतर कर सकती है, जिससे टोकन लागत कम होगी।

संक्षिप्तलेखक: Oossa द्वारा प्रकाशित: 1 मिनट पढ़ना

Amazon Bedrock के Advanced Prompt Optimization में अब प्रॉम्प्ट छोटा करने का वैकल्पिक मोड शामिल है। इसे चालू करने पर सेवा ऐसा छोटा प्रॉम्प्ट बनाने की कोशिश करती है, जिसका आपके कस्टम मूल्यांकन में स्कोर मूल प्रॉम्प्ट के बराबर या उससे बेहतर हो। अगर छोटा किया गया प्रॉम्प्ट मूल से लंबा होता है या उसका स्कोर कम आता है, तो मूल प्रॉम्प्ट ही रखा जाता है। यह सुविधा Bedrock पर उपलब्ध किसी भी मॉडल और मूल्यांकन के किसी भी तरीके के साथ काम करती है। जॉब के नतीजों में संपीड़न अनुपात भी दिखता है।

यह क्यों मायने रखता है

डेवलपर प्रॉम्प्ट की गुणवत्ता से समझौता किए बिना बड़े पैमाने के ऐप्लिकेशन में इनपुट टोकन की लागत और लेटेंसी घटा सकते हैं।

क्या यह लेख उपयोगी था?
साझा करें

यह भी पढ़ें

Oossa · न्यूज़लेटर

AI का हफ़्ता, आसान भाषा में

हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।