You.com har lanserat Inference Router, ett API som fungerar ungefär som OpenAI:s men kör 12 modeller med öppna vikter. Tjänsten har ett servicenivåavtal som garanterar 99,9 % upptid, sparar inga data efter en förfrågan och använder endast servrar i USA. Den har också webbsökning på serversidan och tar inte ut någon plattformsavgift.
Varför det spelar roll
Utvecklare kan köra populära öppna modeller med hög tillförlitlighet och full dataintegritet utan extra plattformsavgifter.