A Amazon Web Services passou a oferecer inferência na Índia para o modelo Kimi K3, da Moonshot AI, no Amazon Bedrock. Os clientes podem selecionar um perfil geográfico de inferência para a Índia, que, segundo a AWS, mantém o processamento nas regiões de Mumbai e Hyderabad. A inferência global também continua disponível.
A AWS também compartilhou um exemplo de código para usar o Kimi K3 na leitura de documentos em idiomas índicos, na extração de campos e em respostas a perguntas complementares em Hinglish. A Ultrahuman afirma usar o modelo em seu assistente de saúde, que atende a mais de 14,000 conversas por dia.
Por que importa
Para organizações indianas com requisitos de residência de dados, o novo perfil oferece uma maneira de usar o Kimi K3 mantendo a inferência na Índia. A AWS não informa o preço dessa opção no anúncio.
