You.com a lancé Inference Router, une API qui fonctionne comme celle d’OpenAI, mais exécute 12 modèles à poids ouverts. Le service garantit une disponibilité de 99,9 % dans le cadre d’un accord de niveau de service. Aucune donnée n’est conservée après une requête et tous les serveurs sont situés aux États-Unis. L’API intègre également un moteur de recherche Web côté serveur et ne facture aucuns frais de plateforme.
Pourquoi c'est important
Les développeurs peuvent exécuter des modèles ouverts populaires avec une grande fiabilité et une confidentialité totale des données, sans frais de plateforme supplémentaires.