Perplexity Orchestrator API 上線:統一模型入口,路由、計費與遷移限制怎麼看?
Perplexity Orchestrator API 上線:統一模型入口,路由、計費與遷移限制怎麼看? 整理官方公告、適用條件與實務判斷,區分產品宣稱與已公開證據。
企業把同一個應用接到數家 AI 模型時,常得同時維護金鑰、請求格式和帳單,模型還沒換好,管理成本就先增加。
Perplexity Orchestrator API 在 2026 年 11 月 17 日發表,將多家模型放進同一個入口,讓開發團隊可以沿用熟悉的 OpenAI 或 Anthropic 請求格式。
但統一入口只處理連線的一部分,模型是否支援圖片、推理設定和對話保存,仍會影響既有應用能不能直接搬過去。
官方文件因此把選模型與選部署分開:團隊可指定模型,也可讓系統依任務選擇,而底層服務位置由平台安排。
對已有多模型需求的團隊,這是值得小規模驗證的整合選項。若最需要的是自帶網路搜尋與引用,應先確認另一套 Agent API 是否才符合任務。
要評估這個入口能省下多少管理工作,得先看清楚它接管的範圍,以及應用仍要自行負責的事情。
Perplexity Orchestrator API 接管哪些工作?
這個服務整合模型呼叫與帳務,應用仍要提供自己的提示、工具及工作流程。API 是讓程式交換請求與結果的入口,因此改用同一個入口,首先減少的是接線與管理工作。
依 官方入門文件,開發者能用一把 Perplexity API 金鑰,呼叫目錄內的專有或開放權重模型,費用統一從平台 API 額度扣除。
開放權重是提供模型參數供下載或部署的形式,實際可用權利仍由各模型授權決定。對接入這個服務的應用來說,呼叫的是平台提供的模型服務,不等於已經取得自行部署的所有權利。
統一入口有沒有附帶搜尋?
Orchestrator 提供直接模型存取,提示內容與工具由開發者安排。若要模型自帶網路搜尋與引用,官方另有 Agent API。若只要排序後的搜尋結果,則是 Search API 的用途。
因此一個原本會搜尋文件的客服程式,不能只換入口便假設搜尋還在。團隊應先辨認搜尋是應用自己呼叫、模型內建,還是舊平台代為完成,才能知道搬遷時要保留哪一段。
官方發表貼文說入口提供四十五個以上模型,這能說明整合範圍,但目錄數量會變動,可用清單也受帳號層級影響。採購時應以組織實際能呼叫的模型為準,避免把展示名單當成已購買的能力。
功能範圍清楚後,遷移的第一關就變成請求格式與對話狀態。

Introducing the Perplexity Orchestrator API.
— Perplexity (@perplexity_ai) November 17, 2026
Orchestrator lets you choose the right model for the right task, and automatically selects the provider based on availability, capacity, and latency.
All open-weight and proprietary models are in one API with unified billing. pic.twitter.com/DT3INmBbMl
沿用 SDK 為什麼還要檢查對話與功能?
官方支援三種請求格式,但相容格式不等於每個模型都有相同能力。SDK 是程式用來呼叫服務的工具套件,沿用套件可以減少改寫,圖片輸入或特定參數仍要依模型確認。
三種格式分別是 OpenAI Chat Completions、OpenAI Responses 與 Anthropic Messages。團隊可以選既有應用使用的格式,再更換服務位址、金鑰與帶有供應者前綴的完整模型名稱。
同樣換位址,為何路徑不同?
文件提醒,OpenAI 套件的服務位址使用 https://api.perplexity.ai/orchestrator/v1,Anthropic 套件則用 https://api.perplexity.ai/orchestrator,因為後者會自行補上版本路徑。
這種差異很小,卻可能讓請求送到錯的網址。因此遷移第一步應先用不含敏感資料的簡單請求確認連通,再逐項加入圖片、工具和串流輸出,才容易分辨哪一項造成不相容。
無狀態會改變什麼?
這套入口不替應用保存可接續的對話狀態。以 Responses 格式為例,每輪要重新帶入完整對話,依賴伺服器保存的回應識別碼不能直接沿用。
所以原本把對話保存在供應商端的應用,需要先安排自己的保存方式。否則第一輪看似正常,第二輪卻可能失去背景,而增加的對話輸入也會影響用量與資料保存責任。
格式測試還應包含錯誤回應。模型不支援某種內容時,程式要能清楚回報或轉向允許的處理方式,不能把空白答案當成正常完成,讓後續系統繼續採用。
請求能送出之後,另一個問題是實際由哪個模型與部署回覆。
模型路由與供應商路由差在哪裡?
模型路由決定誰來回答,供應商路由則替已選模型尋找可服務的部署。路由可以理解成替請求選擇去處,這兩層選擇會影響不同事情。
如果應用指定某個完整模型名稱,平台仍會依錯誤率、容量與延遲安排該模型的部署。官方表示部署失敗時會嘗試其他部署,但開發者不能直接指定某一家部署來承接。
自動選模型如何設定?
若把模型設為 perplexity/auto,可以讓系統依任務選模型。官方發表續貼將自動模型路由列為預覽功能,因此測試與正式導入時仍要留意規則變更。
依 路由文件,自訂規則包含預設模型,以及一至五條路線,每條用自然語言描述要處理的請求,再配上模型。
決策模型讀取的是對話與路線描述,不靠路線名稱猜用途。因此「診斷帶有錯誤堆疊的程式失敗」會比「進階模式」更能交代分流條件,也更方便團隊事後檢查規則是否合理。
這裡的自動化沒有省錢保證。若規則把簡單工作送到較昂貴模型,即使答案品質足夠,成本也可能高於固定使用較輕模型,所以路由判斷本身也要納入測試。
對話會一直用同一個模型嗎?
每個請求都會重新路由,同一段對話可能由不同模型接續。回應中的模型欄位會指出實際服務模型,團隊應保存這個欄位,避免把成果全部歸到預設名稱。
文件也提供盡力維持同一部署的方式,但這不能鎖住自動選模型,也不保證備援後仍使用原快取。若產品需要固定模型行為,直接指定模型會比依賴對話黏著更清楚。
選擇範圍愈靈活,費用與權限就愈需要跟著每次請求核對。
費用、使用層級與資料保留怎麼確認?
費用依實際服務模型的公開單價計算,API 組織層級也會限制可呼叫的模型。官方 FAQ 說明沒有逐次請求費,但輸入、輸出、推理與快取仍各有計價條件。
詞元是模型計算文字用量的單位,不能直接當成固定數量的中文字。比較成本時,要看一整個任務用了多少輸入與輸出,也要保留因重試增加的用量,不能只對照價目表的一欄。
為何回應用量不能直接當帳單?
官方回應提供用量,但沒有直接附上費用欄位。不同格式的快取與推理用量可能包含在總輸入或總輸出裡,因此計算時要依文件拆分,避免同一批詞元算兩次。
部分模型在輸入超過門檻後使用另一組單價,因此小樣本測試的每次成本也不能直接套到長文件任務。團隊應選擇接近實際文件長度的樣本,才看得出門檻對預算的影響。
模型權限則要看 目錄與使用層級。例如文件對部分供應商要求較高層級,若規則指定了組織不能使用的模型,請求可能在執行前就被拒絕。
零資料保留是預設嗎?
依 官方 FAQ,零資料保留預設關閉,必須有書面協議與帳號層級設定。部分模型也不適用。這與 API 不保存對話狀態是不同條件。
不保存可接續的對話,描述的是產品如何處理下一輪請求。零資料保留則涉及資料治理。企業若有地區、保存或供應商限制,應把這些條件列入模型允許清單,不能只看入口是否能連通。
這些條件應該在小規模遷移時一起驗證,避免等到正式流量才發現差異。
快取與重試為何也要納入預算?
快取會重用先前相同的輸入內容,能減少重複處理,但官方對不同模型採不同設定。OpenAI 模型會自動處理符合條件的重複前綴,Anthropic 模型則需要在可重用內容上加上明確標記。
因此同一份長版系統規則,就算每次都送出,也不代表一定命中快取。若團隊忽略模型差異,用某一次快取成功的成本估計所有請求,正式帳單就可能偏離預期。
文件對 Anthropic 快取標記也區分保存時間與費率,延長可重用時間可能同時增加寫入快取的成本。比較時應先看資料多久才會再次使用,避免為不會重複的內容付出額外費用。
部署切換也可能使快取失效。這代表平台提高可用性的處理,與應用希望維持低快取成本的目標,有時需要一起衡量,不能只檢查回應是否成功便認定條件完全相同。
另一項容易漏掉的是推理用量。官方說明推理詞元按輸出費率計費,文字內容是否回傳則依模型而異,因此畫面上較短的答案,也可能使用較多推理運算。
團隊應把每次回應的輸入、快取、輸出與推理欄位留成用量紀錄,再以文件中的計價方式核對。這些紀錄不必包含完整客戶對話,也能協助分辨成本增加來自長文件、路由改變或反覆重試。
若打算接正式產品,可以先為測試和正式服務分開專案與金鑰,讓支出較容易歸屬。密鑰則由服務端保管,不能因為改成單一入口,就直接放在公開網頁或可下載的程式設定裡。
這些成本線索都能在小樣本中先觀察,不必等到流量大增才回頭猜哪一個改動造成帳單差異。
團隊如何安排第一輪遷移測試?
先用有標準答案與固定成本上限的工作測試,才知道統一入口是否真的降低維護負擔。以下是驗收建議,並非已完成的作者實測。
可以先挑文字分類或固定格式摘要,保留原來的輸入、正確答案與完成條件。相同資料分別走既有入口與新入口,記錄格式是否一致、錯誤能否處理,以及人工需要改多少內容。
固定模型通過後,再加入自訂路由,觀察簡單和複雜案例是否分到預期模型。若同一類請求經常被分錯,應先修正路線描述,再評估是否需要增加模型,而不是直接提高全部流量的成本。
最後加入工具呼叫與備援情境,確認失敗不會造成重複寫入。模型服務重試與應用執行一次付款、建單或寄信,是不同層次的動作,應用仍要有辨認重複工作的機制。
測試結果應連同版本、日期與用量保存,之後換模型才有相同基準。
Perplexity Orchestrator API 常見問題
Orchestrator API 需要各家供應商金鑰嗎?
官方文件說使用 Perplexity API 金鑰,不需要另外提供各家模型金鑰。費用從平台 API 額度支付,實際模型可用性仍依組織層級決定。
自動路由是不是一定比較便宜?
沒有這項保證。路由先決定服務模型,再依該模型單價計費,團隊仍要比較任務成果與實際用量。
可以把原本依賴對話保存的程式直接搬過去嗎?
需要先調整。入口是無狀態設計,每輪須攜帶必要對話內容,原有伺服器端狀態參數不能直接視為相容。
先固定一個模型,再驗證路由是否值得加入
Perplexity 這次把多模型接入的管理工作集中起來,較適合已經需要在供應商之間切換、又能維護自己的工具流程的團隊。
第一輪先確認格式、狀態與費用,再加入路由,會更容易知道節省的是哪一段工作。如果應用最需要的是直接搜尋並附引用,應先回到官方 API 分工選擇入口,避免在錯的服務上補建一整套功能。
延伸閱讀:Hugging Face 整合 OpenRouter:同一把金鑰背後,路由、帳單與資料流向改了什麼?
延伸閱讀:LiteLLM Global Control Plane API 上線:跨雲集中管理,為何不會自動共用預算?