Snowflake가 기업용 AI 워크로드를 위한 중앙 집중식 제어 플랫폼인 Cortex AI Gateway의 공개 프리뷰를 발표했습니다. 이 서비스는 모든 모델 호출에 사용할 단일 엔드포인트와 비용이 더 저렴하거나 성능이 뛰어난 모델로의 동적 라우팅을 제공하며, 관측 기능과 보안 보호 장치, 비용 제어 기능을 기본 탑재했습니다. 플랫폼 팀은 Snowflake의 기존 역할 기반 접근 제어 시스템에서 모델 접근 권한을 부여하고 정책을 설정하며 사용량을 확인할 수 있습니다. 개발자는 에이전트가 새 기본 URL과 토큰을 사용하도록 설정하면 됩니다.
왜 중요한가
기업 IT 관리자는 이제 한곳에서 AI 사용을 모니터링하고 제어할 수 있어, 승인되지 않은 AI 사용으로 인한 위험과 예상치 못한 비용을 줄일 수 있습니다.