Сегодня Snowflake объявила, что в закрытой предварительной версии сервиса Snowflake Decision теперь доступна ускоренная модель snowflake-decision-fast. Она выдает структурированные ответы — категории, оценки или вероятности в формате «да/нет» — примерно за 300 мс. Кроме того, Snowflake открыла доступ к REST API через Cortex AI Gateway, чтобы приложения вне SQL могли обращаться к модели напрямую. По словам компании, высокая скорость позволяет использовать ее для маршрутизации обращений в реальном времени, проверки на мошенничество и других задач, чувствительных к задержкам.
Почему это важно
Разработчики смогут добавить мгновенную маршрутизацию и оценку с помощью ИИ в инструменты поддержки, не создавая для этого отдельные конвейеры инференса.
