Amazon Web Services propose désormais l’inférence en Inde pour le modèle Kimi K3 de Moonshot AI sur Amazon Bedrock. Les clients peuvent choisir un profil d’inférence géographique pour l’Inde, qui, selon AWS, maintient le traitement dans ses régions de Mumbai et Hyderabad. L’inférence mondiale reste également disponible.
AWS a aussi publié un exemple de code montrant comment utiliser Kimi K3 pour lire des documents dans des langues indiennes, en extraire des champs et répondre à des questions complémentaires en hinglish. Ultrahuman indique utiliser le modèle pour son assistant santé, qui traite plus de 14 000 conversations par jour.
Pourquoi c'est important
Pour les organisations indiennes soumises à des exigences de résidence des données, ce nouveau profil permet d’utiliser Kimi K3 tout en maintenant l’inférence en Inde. AWS ne précise pas le tarif de cette option dans son annonce.
