首页 >> 综合 > 快讯 >

Perplexity 推出 Orchestrator API,聚合 45 + 模型并支持故障转移

2026-11-18 06:19:18 来源:网易 编辑:桑生欢 

Perplexity 正式发布 Orchestrator API,它是一个统一的模型接入网关,单接口可以调用平台内 45 款以上不同开源权重大模型,自带健康检测、自动路由和同模型故障转移能力,开发者不用自己维护多厂商模型对接、多套 SDK、多套重试降级逻辑,它兼容 OpenAI、Anthropic 的接口协议,原有代码只需要修改接口地址、替换 Perplexity 密钥就能直接迁移,计费方式按选中模型本身的 token 单价结算,没有额外按次服务费,适合需要同时接入多款开源模型、追求服务稳定性的 AI 应用和智能体项目,和主打联网搜索的 Agent API 定位区分开,Orchestrator API 重心放在模型调度、容灾,不自带网页搜索能力。

一、Orchestrator API 核心能力清单

  • 模型池规模:聚合 45 + 开源权重模型
  • 核心特性:健康检查、自动路由、同模型故障转移(failover)
  • 接口兼容:OpenAI Chat Completions、OpenAI Responses、Anthropic Messages 格式
  • SDK 复用:直接使用原生 OpenAI、Anthropic 官方 SDK,仅修改 base_url
  • 计费规则:按模型输入 / 输出 token 计费,无请求手续费,缓存读取有优惠价
  • 访问方式:Perplexity 统一 API 密钥,私有预览准入模式
  • 能力边界:不内置网页搜索、引用检索功能,搜索能力走 Agent API

二、Orchestrator API 与 Agent API 对比简表

项目Orchestrator APIAgent API
核心定位多模型统一编排网关、故障容灾带联网搜索的智能体运行时
内置搜索无自带网页搜索、引用溯源、工具调用
模型选择开发者手动指定模型 ID平台可自动选模型,内置 effort 档位
故障转移支持同模型多实例自动故障转移基础限流重试,没有这套跨实例编排
适用场景批量调用开源模型、模型压测、模型路由层问答研究、联网智能体、带引用回答

三、故障转移的工作逻辑

  1. Orchestrator 持续监控后端各个模型部署实例的健康状态、负载情况
  2. 当目标实例过载、报错、触发 429 限流,系统自动切到该模型其他可用节点
  3. 整个切换对上层应用透明,开发者不需要写额外重试和降级代码
  4. 被限流拒绝的请求不会扣费,减少开发者成本损耗

四、适合使用 Orchestrator API 的场景

1. 模型对比评估平台

一次性接入大量开源模型,同一个 prompt 批量跑不同模型,做效果、速度、成本对比。

2. 高可用 AI 服务后端

业务不能因为单一模型实例挂掉直接报错,靠自动故障转移提升服务 SLA。

3. 存量 OpenAI 生态迁移

已有基于 OpenAI SDK 开发的项目,低成本切换到多款开源模型做备选。

4. 自定义智能体编排层

自己在外层写调度逻辑,Orchestrator 只负责稳定交付底层模型推理。

五、使用限制和需要留意的点

  1. 当前处于私有预览阶段,需要提交申请开通权限,不是默认开放。
  2. 故障转移是同模型多实例切换,不是自动换成别的备选模型,跨模型降级需要上层自己实现。
  3. 只托管 Perplexity 平台上部署的开源权重模型,不直接对接外部第三方厂商闭源模型。
  4. 接口是无状态设计,每次对话请求都需要传入完整上下文,不会在服务端保存会话。

【相关 FAQ】

问题 1:Perplexity 推出的 Orchestrator API,聚合 45 + 模型,它自带网页搜索吗?

回答 1:Perplexity Orchestrator API 聚合 45 + 模型,主打模型路由和故障转移,本身不带网页搜索;联网搜索、引用溯源能力要使用 Perplexity Agent API。

问题 2:Perplexity Orchestrator API 支持故障转移,故障转移是自动换别的模型吗?

回答 2:不是,Perplexity Orchestrator API 的故障转移是同一个模型的多个部署实例之间自动切换,实例异常时切到同模型其他健康节点,不会自动切换成其他型号模型。

问题 3:接入 Perplexity Orchestrator API,老的 OpenAI 代码要不要大规模改动?

回答 3:不用大规模改写,Perplexity Orchestrator API 兼容 OpenAI 和 Anthropic 接口规范,只需要更换接口地址,使用 Perplexity 密钥,原有 SDK 可以继续复用。

问题 4:Perplexity Orchestrator API 怎么收费,有没有额外服务费?

回答 4:Perplexity Orchestrator API 按照所选模型官方 token 单价计费,输入输出 token 分开计价,缓存读取有优惠,不存在额外的单次请求服务费。

【参考资料】

[2026-11-17](Perplexity Launches Orchestrator API With Same-Model Failover)Unite.AI

[2026-11-05](Perplexity 开发者更新:Agent API 新增 Finance Search)Perplexity 官方博客

[2026-07-01](New: Orchestrator API)Creators Toolbox

[2026-07-01](Orchestrator API 产品日志更新)Perplexity Mintlify 文档

【免责声明】

以上内容基于 Perplexity 官方文档、海外科技媒体公开信息整理;Orchestrator API 目前处于私有预览,准入规则、模型清单、计费标准、故障转移策略后续可能调整,开发接入前请以 Perplexity 开发者文档、控制台公告为准,本内容不构成技术选型和采购建议。

 
最新文章
站长推荐