Amazon Web Services добавила возможность выполнять инференс модели Kimi K3 от Moonshot AI в Индии через Amazon Bedrock. Клиенты могут выбрать географический профиль инференса для Индии. По словам AWS, обработка при этом остаётся в регионах Мумбаи и Хайдарабада; также доступен глобальный инференс.
AWS также опубликовала пример кода, показывающий, как с помощью Kimi K3 читать документы на индийских языках, извлекать из них данные и отвечать на уточняющие вопросы на хинглише. Компания Ultrahuman сообщила, что использует модель в своём медицинском помощнике, который обрабатывает более 14 000 диалогов в день.
Почему это важно
Для индийских организаций, которым необходимо соблюдать требования к размещению данных, новый профиль позволяет использовать Kimi K3, не выводя инференс за пределы Индии. AWS не указала стоимость этой опции в объявлении.