Amazon Web Services har lagt till inferens i Indien för Moonshot AI:s modell Kimi K3 på Amazon Bedrock. Kunder kan välja en geografisk inferensprofil för Indien, som enligt AWS håller behandlingen inom regionerna Mumbai och Hyderabad. Global inferens är fortfarande tillgänglig.
AWS har också delat exempelkod som visar hur Kimi K3 kan läsa dokument på indiska språk, extrahera fält och besvara följdfrågor på hinglish. Ultrahuman uppger att företaget använder modellen i sin hälsoassistent, som hanterar över 14 000 konversationer om dagen.
Varför det spelar roll
För indiska organisationer med krav på datalagring i landet ger den nya profilen ett sätt att använda Kimi K3 samtidigt som inferensen hålls i Indien. AWS anger inget pris för alternativet i tillkännagivandet.
