Claude OpenTelemetry 上線 Beta:追蹤 AI 呼叫、資料隱私與費用核對指南

Claude OpenTelemetry 開放 Beta,讓團隊追蹤 Messages API 與 Managed Agents 的工作過程。本文解釋 trace、span、資料範圍、接線驗收與用量核對,整理小規模導入方法。

Share
Claude OpenTelemetry 官方文件標題圖
Claude Platform 官方文件標題圖,非追蹤後台操作畫面。 圖片來源:Claude。

Claude OpenTelemetry 開始讓團隊更容易追查一次 AI 工作的過程。當使用者說回覆太慢,或代理工具執行失敗時,工程師可以沿著紀錄找原因。

這項能力由官方在 2026 年 10 月 14 日列入 Beta 更新,涵蓋 Messages API 與 Claude Managed Agents。它補上的是呼叫過程的可見性,並不直接保證任務品質。

對使用者來說,問題往往不是少一張儀表板,而是不知道卡住的位置。若只有總耗時,很難分辨是網路、模型還是外部工具拖慢。

不過,追蹤資料也可能帶出新的管理問題。只要啟用完整內容,提示與回答就可能送往另一家服務,因此設定之前要先決定哪些資料可以出去。

同一張追蹤圖可能包含應用程式、模型與工具的紀錄。只有分清每一層代表的工作,才能找到真正拖慢流程的環節。

對已有多步驟 AI 工作流的團隊,這次更新值得安排小範圍試接。若想確認它能幫到哪裡,可以先從一次客服請求經過的路徑看起。

Claude OpenTelemetry 官方文件標題圖
Claude Platform 官方文件標題圖,非追蹤後台操作畫面。 圖片來源:Claude。

Claude OpenTelemetry 解決哪一種問題?

它讓一次跨系統工作留下可串接的紀錄,方便團隊定位等待與失敗的位置。

假設客服系統收到一個查詢,先讀訂單資料,再請模型整理回覆。使用者看到的只是一段等待,但工程師需要知道等待分別發生在哪個步驟,才能找到改善方向。

trace 可以理解為同一次工作的整條路徑,而 span 是路徑中某一段工作的紀錄。兩者保留共同的識別資訊,才有機會把不同系統留下的片段接起來。

OpenTelemetry 是讓系統依共同方式記錄與輸送這類資料的標準。它的用途不是替 AI 打分數,而是讓觀察工具能理解呼叫關係與執行過程。

Anthropic 在 十月十四日更新紀錄中列出這項 Beta 能力。因此,準備接入的團隊仍應以目前文件與帳號可用設定為準。

若模型回覆很快,但查詢訂單花了大部分時間,改善提示文字可能無法解決等待。因為問題落在外部資料流程,所以追蹤結果應該能帶出不同的處理動作。

反過來,若工具已經完成,模型卻多次重試,就需要進一步檢查請求與錯誤。只有總時間的紀錄,很難區分這兩種表面上同樣叫作「很慢」的情況。

不過,完整路徑也不代表內容一定正確。模型可能順利完成每一個呼叫,最後仍答錯訂單狀態,所以品質驗收還要有獨立的答案檢查。

因此,團隊可以先定義追蹤要回答的問題,例如哪一段最慢、哪種工具常失敗。問題清楚之後,才知道需要哪些紀錄,也比較容易控制資料量。

理解這個用途後,才有辦法選擇從哪一層取得紀錄。

SDK 與 API 追蹤要怎麼選?

選擇接入位置之前,先畫出自己想觀察的邊界。

API 是程式呼叫服務的介面,SDK 則是協助開發者呼叫與整合服務的工具套件。兩種追蹤方式的差別,首先在於紀錄從哪一端產生。

依 官方總覽,SDK 與 API 服務端提供不同的觀察範圍。因此,應先畫出應用程式、Claude 與外部工具之間的關係,再選擇接法。

若要理解使用者按下按鈕後的整段等待,只看到服務端可能還不夠。因為送出請求之前與收到結果之後,都可能還有應用程式自己的工作。

另一方面,應用程式端的紀錄也不一定能說明服務內部的每個步驟。這就是為什麼可以把兩種來源視為互補,而不能直接當成兩份獨立工作加總。

串接時可以透過共同的追蹤關聯資訊,讓接收系統辨認同一條路徑。實際欄位與支援方式應照文件設定,避免自行組出看似正確卻無法關聯的代碼。

對已有監控平台的團隊,第一個目標可以是讓一筆測試請求出現在既有畫面。若只是接入後多出一個完全分離的清單,查問題時仍要人工比對時間。

同時,也應標明紀錄來自哪個環境。如果測試與正式工作混在一起,少量實驗錯誤就可能被誤判成服務異常,讓團隊花時間追錯方向。

接入方法沒有必要一開始就鋪滿所有功能。先選一條最常遇到問題的路徑,確定能看懂它的開始、結束與失敗,再依需要延伸到其他工作。

邊界選好,下一個決定就是允許哪些內容離開原系統。

延伸閱讀:Claude Managed Agents 排程教學:每天整理 Slack 與 GitHub,怎麼避免重複通知?

先用 metadata_only,避免把對話全部送出去

預設的中繼資料通常已能回答初步的效能問題。

metadata_only 是以中繼資料為主的預設模式。依官方說明,它可包含識別資訊、時間、狀態、token 計數與工具名稱等,讓團隊先觀察過程。

token 是模型處理文字等內容時使用的計量單位,並不直接等於字數。追蹤裡的計數有助於定位用量異常,但完整對帳還需要另外核對。

如果改為完整內容模式,提示與回答也可能送到設定的目的地。這會改變資料流向,因此不應只是為了讓畫面看起來更完整,就直接打開。

例如客服問題可能帶有訂單細節,而內部工具回傳也可能包含原本未打算分享的欄位。即使使用者輸入已經處理,後面產生的內容仍要一起盤點。

另外,工具名稱與工作名稱本身也可能透露業務資訊。因此,中繼資料模式可以減少內容外流範圍,卻不能取代對欄位、權限與保存時間的檢查。

接收端的存取設定也很重要。如果所有成員都能看見完整追蹤,原本只允許少數人讀取的內容,就可能因為監控流程而擴大可見範圍。

較容易管理的起點,是選一個專用測試工作區,用不含真實個資的資料驗證。確定欄位與用途之後,再決定哪些環境需要相同設定。

若公司有資料保留要求,還應逐項核對功能適用條件。官方對 Messages API 與 Managed Agents 的資料處理資格並不完全相同,不能用同一個承諾概括。

確定資料範圍之後,就可以在測試工作區驗證傳送路徑。

從單一工作區開始接線與驗收

接線成功應該以一筆可辨識的測試請求驗證,而不是只看目的地顯示健康。

依 API 接入文件,設定目的地需要管理員權限。這項分工有助於避免一般查看紀錄的人,順手改掉全組織的傳送位置。

目的地採用 OTLP 的 HTTP 傳輸方式,內容使用 protobuf。對初次接觸的人而言,可以把它理解為兩端必須說同一種資料格式,不能只填一個普通網頁網址。

官方要求可公開連線的 HTTPS 目的地,使用 443 連接埠。如果使用自架 Collector,還要確認它在外部呈現的接入方式符合要求,而不是直接照搬本機預設值。

Collector 是用來接收與轉送觀察資料的程式。常見的預設連接埠與官方要求不同,因此接線之前就應由負責系統的人核對路徑與認證方式。

Console 提供的測試會傳送 anthropic.test 這類測試 span。收到它能證明基本傳送路徑可用,但不能證明每個真實任務都會留下完整紀錄。

因此,下一步要自己送出一筆容易辨識的測試請求。先記下請求代號,再確認目的地能找到對應內容、時間合理,而且沒有帶入預期之外的資料。

測試也應包含失敗情境。例如讓測試工具回傳一個可預期錯誤,觀察畫面是否能把失敗位置和對應工作串起來,避免只有成功路徑看起來漂亮。

驗收完成後,把當時的模式、工作區與目的地設定記錄下來。因為未來若更改接收平台,這份紀錄能幫助團隊辨認差異,而不用重新猜測資料從哪裡來。

當紀錄開始進來,還要避免把同一份工作重複計算。

為什麼 trace 的 token 總和不能直接當帳單?

追蹤紀錄重視問題定位,完整計費則需要另一套核對依據。

同一條 trace 裡可能同時出現上層工作與下層模型呼叫。如果兩層都帶有相同用量資訊,把所有欄位直接相加,就可能重複計算同一份工作。

重試也會增加理解難度。有時是一次呼叫在傳送過程留下重複紀錄,有時則真的重新執行了模型請求,兩種情況對費用的意義不同。

所以,建立統計之前要先定義採用哪一層的數據,再依追蹤與片段識別資訊處理重複。若規則說不清楚,儀表板上的整數總和也可能造成誤導。

此外,官方把這類輸送描述為盡力傳送,並不保證每段紀錄都完整到達。網路或接收端出問題時,追蹤畫面可能少資料,因此不能把缺少紀錄直接當成沒有使用。

若要做完整用量核對,應使用官方的 Usage API 等適合帳務用途的資料。追蹤可協助解釋某次異常,卻不應成為唯一的計費依據。

較實用的分工,是用追蹤找出哪條工作流用量突然增加,再用完整用量資料確認整體變化。這樣問題定位與成本核對可以互相補充,而不會混為一談。

警示也應對應可處理的事件。例如同類工作反覆失敗,可以交給維護者調查;但只有單一片段短暫消失,未必需要立刻當成正式服務中斷。

當團隊知道每張圖能回答什麼,追蹤才會持續有用。否則資料雖然越存越多,遇到真正問題時,仍然只能依靠截圖猜測原因。

把用途分清楚,才能建立持續有用的觀察規則。

延伸閱讀:Claude 動態工作流程開放測試:多個代理分工,為何仍需要總預算?

常見問題:Claude OpenTelemetry 適合現在導入嗎?

導入範圍取決於工作流複雜度與資料管理能力。

Claude OpenTelemetry 能直接檢查回答是否正確嗎?

不能直接代替內容驗收。它記錄的是工作過程,因此仍要另外檢查答案是否符合原始資料,以及外部操作是否真的完成。

顯示目的地健康,就代表設定完成嗎?

健康狀態是起點,還要核對一筆真實測試請求。若只能看到測試訊號,卻無法找到對應工作,就還不能確認日後可以用來追查問題。

可以一開始就記錄全部提示與回答嗎?

技術設定之外,還要確認資料流向與接收端權限。多數初步效能問題可先用中繼資料觀察,只有確有需要時再評估增加內容。

哪些團隊值得優先試接?

若工作包含多次模型與工具呼叫,而且常難以定位等待或失敗,就有明確試接理由。單純想知道整月花費的團隊,則應先把完整用量核對做好。

團隊能解釋每條紀錄從哪裡來,才有基礎擴大觀察。

結語:先找得到問題,再增加資料

先建立少量、可辨識的紀錄,比一次打開所有內容更容易看出效果。

可以先選一條經常出問題的工作流,確認追蹤能幫團隊做出不同的處理決定。如果找到原因的時間縮短,就有依據再擴大範圍。

接下來的重點,是維持清楚的資料邊界與統計口徑。當每一段紀錄都能解釋來源,也知道哪些部分可能遺漏,觀察結果才比較能支撐維運判斷。

想持續掌握 AI 工作流更新,可以免費訂閱 AI 郵報。

資料來源