Snowflake a annoncé la préversion publique de Cortex AI Gateway, un plan de contrôle centralisé pour les charges de travail d’IA en entreprise. La plateforme propose un point d’accès unique pour tous les appels aux modèles, un routage dynamique vers des modèles moins coûteux ou plus performants, ainsi que des outils intégrés d’observabilité, des garde-fous de sécurité et des contrôles des coûts. Les équipes responsables de la plateforme peuvent accorder l’accès aux modèles, définir des règles et consulter l’utilisation dans le système de contrôle d’accès basé sur les rôles déjà utilisé par Snowflake. Les développeurs n’ont qu’à configurer leurs agents pour utiliser une nouvelle URL de base et un jeton.
Pourquoi c'est important
Les administrateurs informatiques des entreprises peuvent désormais surveiller et contrôler l’utilisation de l’IA depuis un seul endroit, ce qui réduit les risques liés à l’IA non autorisée et aux coûts imprévus.