Oossa

درگاه AgentCore آمازون از InvokeModel و مسیریابی پشتیبان پشتیبانی می‌کند

اکنون می‌توانید از طریق یک نقطه پایانی به هر مدل Bedrock دسترسی داشته باشید و در صورت از کار افتادن مدل اصلی، درخواست‌ها به‌طور خودکار به مدل پشتیبان فرستاده می‌شوند.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

درگاه Amazon Bedrock AgentCore اکنون با APIهای InvokeModel و InvokeModelWithResponseStream کار می‌کند. یعنی می‌توانید SDK فعلی Bedrock خود را به این درگاه وصل کنید و بدون تغییر کدتان به هر ارائه‌دهنده مدلی دسترسی داشته باشید. این درگاه همچنین قابلیت جایگزینی مدل را اضافه کرده است: اگر مدل اصلی با محدودیت نرخ درخواست روبه‌رو شود، ظرفیت نداشته باشد یا در دسترس نباشد، درخواست را به‌طور خودکار به مدل پشتیبانی که مشخص کرده‌اید می‌فرستد. مسیریابی پشتیبان و مدارشکن داخلی در پشت‌صحنه کار می‌کنند؛ بنابراین کلاینت‌ها فقط یک درخواست و یک پاسخ می‌بینند.

چرا مهم است

توسعه‌دهندگان می‌توانند بدون نوشتن منطق اختصاصی برای تلاش مجدد، عامل‌های هوش مصنوعی خود را روان و بدون وقفه اجرا کنند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.