You.com heeft de Inference Router gelanceerd, een API die werkt als die van OpenAI, maar 12 open modellen aanbiedt. De dienst heeft een service level agreement (SLA) met 99,9% uptime. Gegevens worden na een verzoek niet bewaard en alle servers staan in de Verenigde Staten. De router biedt ook zoeken op het web aan de serverkant en rekent geen platformkosten.
Waarom het ertoe doet
Ontwikkelaars kunnen populaire open modellen met hoge betrouwbaarheid en volledige gegevensprivacy gebruiken, zonder extra platformkosten.