Oossa

Hugging Face 将语言模型请求接入 OpenRouter

开发者无需修改代码;请求将通过 OpenRouter 路由,由其选择最便宜、最快或最可靠的服务商。

作者: Oossa 发布日期: 1 分钟阅读

Goran Ivos · Unsplash

Hugging Face 于 2026 年 11 月 18 日宣布,其 Inference Providers 服务今后会将所有语言模型请求通过 OpenRouter 发送。这项调整会自动生效,现有 API 调用无需修改代码即可继续使用。默认情况下,路由器会综合价格、速度和可靠性选择服务商;开发者也可以添加“:fastest”或“:cheapest”等后缀,指定优先考虑的条件,或者直接指定服务商。新增的“X-HF-Session-Id”标头可让路由器将同一对话固定到同一服务商的缓存上,从而加快持续对话的响应速度。

新路由机制的作用

OpenRouter 会实时监测各服务商的表现;如果首选服务商变慢或发生故障,就会切换到其他服务商。根据 OpenRouter 自行进行的测试,新路由机制使容量错误减少了 46%,首个 token 的等待时间缩短了 16.9%,整体吞吐量提升了 16.3%。Hugging Face 按服务商的原价向用户收费,不加价。Pro 方案每月可获得 $2 额度,Team 或 Enterprise 方案则每个席位可获得 $2 额度。

对开放权重模型的影响

开放权重(开源)模型如今已占 OpenRouter 流量的多数。截至 2026 年 9 月底,这类模型处理的 token 约占 71%,高于 2025 年 10 月的 26.8%。开放模型每百万 token 的价格约为闭源模型的四分之一:输入约 $0.28,闭源模型为 $1.27;输出约 $1.62,闭源模型为 $6.36。表现最佳的开放模型 Kimi K3.1 Pro 在 Artificial Analysis Intelligence Index 上得分为 46;排名最高的专有模型 Claude Fable 5.2 得分为 65,但每项任务的成本约为前者的七倍。

为什么重要

开发者无需更改现有代码,就能自动获得更快、更便宜的响应,从而降低使用聊天模型的应用的运营成本。开源模型用户也能以较低价格继续使用同一 API,让小团队和业余开发者更容易负担 AI 服务。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。