Amazon Bedrock AgentCore Gateway अब InvokeModel और InvokeModelWithResponseStream API के साथ काम करता है। यानी, आप अपने मौजूदा Bedrock SDK को गेटवे से जोड़कर बिना कोड बदले किसी भी मॉडल प्रदाता तक पहुँच सकते हैं। गेटवे में मॉडल फ़ॉलबैक की सुविधा भी जुड़ी है: अगर मुख्य मॉडल पर अनुरोधों की सीमा लागू हो, उसकी क्षमता पूरी हो चुकी हो या वह उपलब्ध न हो, तो गेटवे अनुरोध को अपने-आप आपके बताए बैकअप मॉडल पर भेज देता है। फ़ॉलबैक रूटिंग और बिल्ट-इन सर्किट ब्रेकर पर्दे के पीछे काम करते हैं, इसलिए क्लाइंट को सिर्फ़ एक अनुरोध और एक जवाब दिखता है।
यह क्यों मायने रखता है
डेवलपर कस्टम रीट्राई लॉजिक लिखे बिना अपने AI एजेंट को सुचारु रूप से चलाए रख सकते हैं।
