Fireworks AI объявила, что открытая модель Meta Muse Spark Open уже доступна через её бессерверный API, работающий только в США. Модель построена на архитектуре «смесь экспертов»: всего в ней 816 млрд параметров, но для обработки каждого токена задействуются только 42 млрд. Контекстное окно — до 1 млн токенов. По умолчанию Fireworks не хранит данные; при необходимости можно перейти с бессерверного режима на зарезервированную пропускную способность, а также выполнить дообучение с помощью LoRA.
Почему это важно
Компании из регулируемых отраслей теперь могут запускать в США высокопроизводительную модель, обученную в США, без хранения данных, снижая риски несоблюдения требований и расходы.
