Snowflake는 오늘 비공개 프리뷰로 제공 중인 Snowflake Decision 서비스에 snowflake-decision-fast라는 고속 버전을 추가했다고 발표했다. 새 모델은 분류, 점수 또는 예·아니요 확률 같은 구조화된 답변을 약 300ms 안에 반환한다. 또한 Snowflake는 Cortex AI Gateway를 통해 REST API를 공개해 SQL 외부의 애플리케이션에서도 모델을 직접 호출할 수 있도록 했다. 회사는 이 속도 덕분에 실시간 티켓 분류, 사기 확인 등 지연 시간에 민감한 작업을 처리할 수 있다고 밝혔다.
왜 중요한가
개발자는 별도의 추론 파이프라인을 구축하지 않고도 지원 도구에 즉각적인 AI 분류와 점수 산정 기능을 추가할 수 있다.