يوضح منشور AWS كيف تؤثر أربعة خيارات للاستدلال في Amazon Bedrock في الفاتورة. ويمكن تقليل استهلاك الرموز والتكلفة عبر تقصير مدة التخزين المؤقت (TTL)، واختيار مستوى خدمة Flex، واستخدام استدلال بجهد منخفض، ووضع حد أقصى أقل لـ maxTokens. ويتضمن المنشور أمثلة على الشيفرة ونتائج اختبارات وروابط إلى جداول الأسعار، ليتمكن المطورون من قياس الأثر قبل تطبيق التغييرات في بيئة الإنتاج.
لماذا يهم
يمكن للمطورين خفض إنفاقهم على الذكاء الاصطناعي التوليدي في Bedrock بضبط هذه الإعدادات الأربعة بدلاً من تغيير النماذج.
