Amazon Web Services ha incorporado inferencia desde India para el modelo Kimi K3 de Moonshot AI en Amazon Bedrock. Los clientes pueden elegir un perfil de inferencia geográfica de India que, según AWS, mantiene el procesamiento dentro de sus regiones de Mumbai y Hyderabad. También sigue disponible la inferencia global.
AWS también compartió código de ejemplo para usar Kimi K3 con el fin de leer documentos en lenguas índicas, extraer campos y responder preguntas de seguimiento en hinglish. Ultrahuman afirma que usa el modelo en su asistente de salud, que gestiona más de 14.000 conversaciones al día.
Por qué importa
Para las organizaciones de India que deben cumplir requisitos de residencia de datos, el nuevo perfil ofrece una forma de usar Kimi K3 y mantener la inferencia dentro del país. AWS no indicó el precio de esta opción en el anuncio.
