Hugging Face 将语言模型请求路由交给 OpenRouter

此次调整加入按实时价格、速度和可靠性选择供应商及失败重试,同时改变语言模型的自带密钥支持;用户仍可指定或禁用供应商。

Share
Hugging Face 将语言模型请求路由交给 OpenRouter
原文配图 · 图片出处

资讯整理 · huggingface.co · 原文日期 2026-11-16

语言模型请求加入跨供应商重试

Hugging Face 宣布,Inference Providers 的语言模型请求改由 OpenRouter 路由,按实时价格、速度和可靠性选择供应商。首次调用失败时,会改试其他供应商;公告称,现有调用代码无需修改。

按工具与模型查阅接入指南

接入时先选编程助手或开发工具包,再选模型并按指南配置。公告列出多种工具的配置说明,并称每个聊天模型都支持 OpenAI 的 Chat Completions、Responses 和 Anthropic 的 Messages 接口,无论背后由哪家供应商提供服务。

默认综合选择,也可指定路由策略

默认路由综合考虑价格、速度和可靠性;用户也可通过模型标识后缀,选择最高吞吐量、最低价格或固定供应商。路由还会让对话留在持有提示缓存的供应商处。若要显式标识会话,可在指定请求头中为每段对话发送稳定的 UUID。

语言模型不再支持供应商自带密钥

语言模型请求统一计入 Hugging Face 账户或组织账单,因此不能再使用用户自己的供应商 API 密钥。用户仍可通过模型标识后缀指定供应商,或在设置中禁用供应商。图像和视频供应商的自定义密钥继续有效,这项变化有明确的任务范围。

查看供应商表现并限制请求去向

模型页面新增供应商与指标页签,可查看可路由的供应商、输入输出价格,以及最近二十四小时的速度和可用率。用量概览按实际承接请求的供应商拆分支出;设置中可禁用供应商,组织设置则适用于所有计入该组织账单的请求。

原始标题:Hugging Face and OpenRouter join forces to make open-weight models easy to run
来源:huggingface.co