Oossa

AgentCore Gateway unterstützt InvokeModel und Ausweichrouting

Über einen einzigen Endpunkt lassen sich nun alle Bedrock-Modelle aufrufen. Fällt das zuerst gewählte Modell aus, wechselt das Gateway automatisch zu einem Ersatzmodell.

KurzmeldungVon Von Oossa veröffentlicht: 1 Min. Lesezeit

Amazon Bedrock AgentCore Gateway unterstützt jetzt die APIs InvokeModel und InvokeModelWithResponseStream. Damit können Sie Ihr vorhandenes Bedrock SDK auf das Gateway ausrichten und jeden Modellanbieter erreichen, ohne Ihren Code ändern zu müssen. Außerdem bietet das Gateway jetzt ein Modell-Fallback: Wird das primäre Modell gedrosselt, ist es ausgelastet oder nicht erreichbar, leitet das Gateway die Anfrage automatisch an ein von Ihnen festgelegtes Ersatzmodell weiter. Ausweichrouting und ein integrierter Schutzschalter laufen im Hintergrund. Für den Client sind daher nur eine Anfrage und eine Antwort sichtbar.

Warum es wichtig ist

Entwickler können ihre KI-Agenten zuverlässig am Laufen halten, ohne eine eigene Wiederholungslogik schreiben zu müssen.

War dieser Artikel hilfreich?
Teilen

Als Nächstes lesen

Oossa · Newsletter

Die KI-Woche, erklärt

Jeden Montag: die Nachrichten, die man kennen sollte – verständlich. Kostenlos, kein Spam.