Amazon Web Services bietet für das Modell Kimi K3 von Moonshot AI jetzt Inferenz in Indien über Amazon Bedrock an. Kunden können ein geografisches Inferenzprofil für Indien auswählen. Laut AWS bleibt die Verarbeitung dabei auf die AWS-Regionen Mumbai und Hyderabad beschränkt. Eine globale Inferenzoption gibt es weiterhin.
AWS hat außerdem Beispielcode veröffentlicht, der zeigt, wie sich mit Kimi K3 Dokumente in indischen Sprachen auslesen, Datenfelder extrahieren und Rückfragen auf Hinglish beantworten lassen. Ultrahuman zufolge nutzt das Unternehmen das Modell für seinen Gesundheitsassistenten, der täglich mehr als 14.000 Gespräche führt.
Warum es wichtig ist
Für indische Unternehmen mit Anforderungen an die Datenresidenz bietet das neue Profil eine Möglichkeit, Kimi K3 zu nutzen und die Inferenz in Indien zu halten. In der Ankündigung macht AWS keine Angaben zu den Preisen für diese Option.
