AWSのブログでは、Amazon Bedrockの推論オプション4つが料金に与える影響を紹介しています。キャッシュTTLを短くする、Flexサービスティアを選ぶ、推論の強度を低くする、maxTokensの上限を絞ることで、トークン使用量と料金を抑えられます。記事にはサンプルコードやテスト結果、料金表へのリンクもあり、開発者は本番環境に変更を反映する前に効果を測定できます。
なぜ重要か
開発者はモデルを切り替えなくても、これら4つの設定を調整することでBedrockの生成AI利用料を削減できます。