وبلاگ AWS نشان می‌دهد چهار گزینه استنتاج Amazon Bedrock چطور روی صورت‌حساب اثر می‌گذارند. کوتاه‌تر کردن TTL کش، استفاده از سطح سرویس Flex، انتخاب استدلال با تلاش کم و محدودتر کردن maxTokens می‌تواند مصرف توکن و نرخ‌ها را کاهش دهد. این مطلب کد نمونه، نتایج آزمایش و پیوندهایی به جدول‌های قیمت‌گذاری ارائه می‌کند تا توسعه‌دهندگان پیش از اعمال تغییرات در محیط عملیاتی، اثر آن‌ها را بسنجند.
چرا مهم است
توسعه‌دهندگان می‌توانند با تنظیم این چهار گزینه، به‌جای تغییر مدل، هزینه هوش مصنوعی مولد را در Bedrock کاهش دهند.
