Oossa

Hugging Face skickar språkmodellernas anrop via OpenRouter

Utvecklarnas kod förblir oförändrad, men OpenRouter väljer nu den billigaste, snabbaste eller mest tillförlitliga leverantören.

Av Publicerad av Oossa: 1 min läsning

Goran Ivos · Unsplash

Hugging Face meddelade den 18 november 2026 att tjänsten Inference Providers kommer att skicka alla anrop till språkmodeller via OpenRouter. Ändringen sker automatiskt, och befintliga API-anrop fortsätter att fungera utan kodändringar. Som standard väljer routern en leverantör med en avvägning mellan pris, hastighet och tillförlitlighet. Utvecklare kan i stället lägga till ett suffix som ":fastest" eller ":cheapest" för att prioritera en viss egenskap, eller ange en leverantör direkt. En ny header, "X‑HF‑Session‑Id", gör att routern kan hålla en konversation kvar i samma leverantörs cache, vilket snabbar upp pågående chattar.

Så fungerar den nya routningen

OpenRouter mäter alla leverantörer i realtid och växlar till en annan om den första blir långsam eller slutar fungera. Enligt OpenRouters egna tester minskade den nya routningen kapacitetsfel med 46 %, kortade tiden till första token med 16.9 % och ökade det totala dataflödet med 16.3 %. Hugging Face förmedlar leverantörens pris direkt till användarna utan påslag. Pro-abonnemang får en månatlig kredit på $2, och Team- eller Enterprise-abonnemang får $2 per användare.

Effekter för modeller med öppna vikter

Modeller med öppna vikter (modeller med öppen källkod) står nu för merparten av trafiken på OpenRouter. I slutet av september 2026 utgjorde de omkring 71 % av de behandlade tokenen, en ökning från 26.8 % i oktober 2025. Öppna modeller kostar ungefär en fjärdedel så mycket per miljon token som slutna modeller – cirka $0.28 för indata jämfört med $1.27, och $1.62 för utdata jämfört med $6.36. Den bästa öppna modellen, Kimi K3.1 Pro, får 46 poäng på Artificial Analysis Intelligence Index. Den främsta proprietära modellen, Claude Fable 5.2, får 65 poäng men kostar ungefär sju gånger mer per uppgift.

Varför det spelar roll

Utvecklare kan behålla sin befintliga kod och samtidigt automatiskt få snabbare och billigare svar, vilket sänker driftskostnaderna för appar som använder chattmodeller. Användare av modeller med öppen källkod får lägre priser och kan ändå använda samma API, vilket gör AI-tjänster mer överkomliga för små team och hobbyutvecklare.

Var den här artikeln användbar?
Dela

Läs vidare

Oossa · Nyhetsbrev

Veckans AI, förklarad

Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.