قابلیت Advanced Prompt Optimization در Amazon Bedrock اکنون حالت اختیاری کوتاهسازی پرامپت را هم دارد. با فعالکردن این حالت، سرویس میکوشد پرامپتی کوتاهتر تولید کند که در ارزیابی سفارشی شما دستکم بهاندازه نسخه اصلی امتیاز بگیرد. اگر نسخه کوتاهشده طولانیتر باشد یا امتیاز کمتری بگیرد، پرامپت اصلی حفظ میشود. این قابلیت با هر مدلی در Bedrock و هر روش ارزیابی کار میکند و نسبت فشردهسازی را در نتایج کار نشان میدهد.
چرا مهم است
توسعهدهندگان میتوانند بدون افت کیفیت پرامپت، هزینه توکنهای ورودی و تأخیر را در برنامههای بزرگمقیاس کاهش دهند.