Databricks Genie Code CLI 正式全面可用!同步推出 Unity Gateway Insights 與智慧路由抓出 AI 代理 Token 浪費

Databricks 宣布終端機代理 Databricks Genie Code CLI 全面可用(GA),並推出 Unity Gateway Insights 與 Smart Routing 外部模型支援,分析百萬筆追蹤紀錄揪出 MCP 錯誤與過度消耗的 Token 成本。

Share
Databricks Unity Gateway Insights 官方部落格主圖
Databricks 推出 Unity Gateway Insights 與 Genie Code CLI GA,將企業編碼代理納管於統一追蹤與成本治理之下。 圖片來源:官方原文。

企業大規模導入 AI 編碼代理後,工程師的開發速度確實明顯加快,但財務與平台團隊卻很快面臨一個棘手難題:帳單上的 Token 消耗量不斷暴增,卻沒人說得清楚這些昂貴的算力究竟花在刀口上,還是在反覆重試無效的工具呼叫。

針對這項企業痛點,Databricks 在 2026 年 11 月 17 日至 18 日連續釋出三項關鍵平台更新,將 AI 開發代理的本地執行與企業級成本治理徹底打通。首先,讓資料與 AI 工程師直接在終端機運作的代理工具 Databricks Genie Code CLI 正式進入全面可用階段,並納入與雲端工作區統一的預算管理。

緊接著,Databricks 在 Unity Gateway 中推出 Unity Gateway Insights 測試版,直接運用 Genie 與企業自身的業務本體論,自動分析數百萬筆代理執行追蹤紀錄,把隱藏在背後吃掉大量 Token 的元兇一一抓出來。這裡所說的追蹤紀錄,指的是代理在執行任務過程中留下的完整步驟日誌。

同時,Smart Routing 智慧路由也同步展開測試版更新,開始支援將編碼代理的子任務動態分派給外部模型供應商。從單純提供模型介面閘道器,進化到能看懂每一筆代理追蹤並主動幫企業省錢的 AI 控制平面,Databricks 正在重新定義企業管理 AI 代理經濟學的標準做法。

Databricks Genie Code CLI 正式 GA:把受控的資料開發代理帶進本地終端機

過去資料工程師與分析師想使用 Databricks 的 Genie Code 輔助寫程式,主要得在瀏覽器中的 Notebook 或 SQL 編輯器內操作。然而,許多資深工程師更習慣在本地端開啟終端機,搭配自己順手的整合開發環境與 Git 版控流程來進行開發。

隨著 Databricks Genie Code CLI 在 11 月 18 日正式進入全面可用階段,開發者現在可以直接在本地終端機環境中,喚起具備 Databricks 平台脈絡的 AI 編碼代理。它不再只是一個單純回答語法問題的聊天視窗,而是能直接讀寫本地檔案、執行系統指令並理解企業資料架構的終端機代理。

與工作區統一的預算與免費額度機制

對企業 IT 管理者而言,開放本地端終端機代理最怕出現影子 AI 或費用失控的狀況。如果每位工程師都在本機綁定不同的個人 API 金鑰,平台團隊將完全失去對成本與資安的掌握。

Databricks 這次特別強調 Genie Code CLI 與瀏覽器工作區採用完全一致的管理與計費架構,具體包含以下三個設計重點:

  • 單一預算控管:系統管理員只需在後台設定一套 Genie Code 預算,就能同時涵蓋本地終端機與雲端工作區的使用量,完全無須針對開發者額外購買獨立的外部模型訂閱。
  • 共享免費額度:使用者每月擁有的免費 Genie 使用額度,現在也能直接套用在終端機的 Genie Code CLI 中,讓團隊成員無須額外申請採購流程就能立即上手。
  • 原生平台技能整合:這款終端機代理內建多種 Databricks 專屬技能,涵蓋資料管線開發、指標視圖、資產打包與模型服務,並且直接沿用工程師現有的 CLI 驗證設定檔與 Unity Catalog 權限。

這意味著工程師在本地修改程式碼、執行測試腳本或處理 Git 版控時,依然完全受到 Unity Catalog 的資料存取規範與 Unity Gateway 的模型治理保護,不會因為工具搬到本地端就變成資安破口。

對於已經習慣使用終端機的開發者來說,這種無縫銜接意味著工作流程不必再被拆成兩半。過去在本地寫好一段資料轉換邏輯後,往往得複製貼上到網頁介面才能呼叫平台助理協助除錯,或是得自己手動補齊資產打包設定。

現在透過 Databricks Genie Code CLI,代理可以直接讀取整個本地專案目錄的脈絡,理解不同檔案之間的相依性,並在獲得開發者授權後執行測試指令。同時,管理員依然能在雲端後台掌握所有成員的預算消耗上限,讓開發便利性與企業合規治理取得平衡。

延伸閱讀:Databricks AI Index 公開:企業模型用量、每次任務成本與預算分布怎麼讀?

Databricks Unity Gateway Insights 官方部落格主圖
Databricks 推出 Unity Gateway Insights 與 Genie Code CLI GA,將企業編碼代理納管於統一追蹤與成本治理之下。 圖片來源:官方原文。

Unity Gateway Insights(Beta):用 Genie 自動揪出百萬級 Token 浪費

光有預算上限並不足以解決 AI 成本過高的問題,因為在沒有細部數據的情況下,管理者只知道額度用完了,卻不知道浪費究竟發生在哪裡。Databricks 在 11 月 18 日發布的官方技術部落格中指出,內部團隊在導入編碼代理時,透過分析代理追蹤紀錄就發現了極為驚人的省錢空間。

例如,Databricks 透過離線重播實測發現,在自家工程工作負載下將模型從 Opus 4.8 升級到 Opus 5 並沒有帶來實質效能提升,因此決定繼續留用成本更低的 4.8 版本。更關鍵的是,他們發現修復幾個常見的 MCP 工具錯誤,每年竟能省下高達 120 萬美元的成本。

為了讓所有企業客戶都能複製這套內部省錢經驗,Databricks 正式推出 Unity Gateway Insights。只要團隊的編碼代理流量已經過 Unity Gateway,管理員就能在工作區開啟觀察報表,針對過去 1 天、7 天或 30 天的數據自動產出分析報告。

Insights 鎖定的三大核心 Token 浪費黑洞

Unity Gateway Insights 並非只是一張冷冰冰的用量折線圖,它會自動抽樣代理工作階段、依工作類型分群,並按涉及的 Token 成本排序出最值得優先處理的浪費來源:

  1. MCP 錯誤與隱形重試浪費:當外部模型上下文協定工具呼叫失敗時,AI 代理通常不會直接放棄,而是會不斷重試或嘗試繞道解決,直到任務完成為止。表面上這個工作階段看似成功執行,但企業已經為每一次失敗重試支付了昂貴的 Token 費用。Databricks 內部找出的 120 萬美元年化浪費,正是來自 MCP 伺服器裡的 7 個小錯誤,其中包含 49.9 萬美元的純粹 Token 浪費,以及工程師乾等代理重試所耗費的 12,000 小時工時,而團隊修復這 7 個錯誤實際上只花了大約一小時。
  2. 用頂級前沿模型處理簡單日常任務:Insights 會自動評估每一個使用高價前沿模型的工作階段,判斷其任務複雜度究竟有多高,並統計出有多少比例其實是簡單、例行性的提示詞。這些清單能直接作為啟用智慧路由的依據,把簡單任務轉給平價模型,只將前沿模型留給真正需要深度推理的工作。
  3. 值得轉化為共享技能的重複工作流:當某個多步驟操作流程在至少 3 個工作階段中重複出現,或跨越 2 位以上工程師重複執行時,Insights 會將其標記出來,甚至自動撰寫好一段可複製貼上的提示詞。團隊可以直接利用這段提示詞把該流程封裝成標準化的共享技能,避免代理每次都要重新摸索步驟而多燒 Token。

此外,管理者還能在報告中自訂最多 10 個特定問題,例如詢問最新款模型對特定團隊的任務是否真的划算。如果想要追查細節,只要直接與 Genie 對話,追問哪個 MCP 伺服器燒掉最多 Token 以及負責人為誰,就能立刻得到完整的錯誤追蹤連結並開立修復工單。

為什麼獨立的 AI 閘道器做不到?Databricks 的四層整合優勢

市面上其實不乏獨立的 AI 閘道器或大型語言模型監控工具,但 Databricks 強調,想精準抓出編碼代理的浪費,光靠紀錄單一 API 請求遠遠不夠。平台必須掌握每一個步驟的完整脈絡,包含輸入輸出、工具呼叫、子代理互動、延遲時間與 Token 成本。

如果企業採用傳統的獨立閘道器,就必須自己動手修改每一款編碼代理的程式碼來埋設追蹤點,還得另外把日誌匯出到資料倉儲才能做分析。Unity Gateway Insights 之所以能開箱即用,依賴的是四項與資料平台深度綁定的基礎能力:

核心能力層級 具體技術機制與企業價值
全代理自動追蹤 透過 ug CLI 啟動 Claude Code、Codex 或 GitHub Copilot 等代理時,系統會自動開啟各代理原生的 OpenTelemetry 追蹤,團隊無須手動埋設程式碼。
開放格式的統一追蹤表 所有追蹤資料會直接寫入 Unity Catalog 管理的 Delta 資料表,由企業完全擁有並採用開放格式,任何分析工具皆可讀取。
結合業務脈絡的 Genie 透過 Genie Ontology 本體論,Genie 在撰寫 SQL 與解讀追蹤紀錄時,能直接認得企業內部的專案名稱與商業術語。
預設鎖定的高規格治理 追蹤紀錄包含提示詞、原始碼與工具輸出等機密資訊,預設僅資料表擁有者可查詢,管理員可透過權限與資料列篩選器嚴格控管,且全程在原地分析而不外洩。

Smart Routing 支援外部模型(Beta):子代理成本優化再升級

在透過 Insights 找出高射砲打小鳥的低效任務後,企業緊接著需要的就是自動化分流機制。根據 Databricks 2026 年 11 月 18 日的產品更新日誌,Smart Routing 智慧路由在 Unity Gateway 受控組態的測試版中,正式新增對編碼代理外部模型的支援。

以往智慧路由主要在平台內建的系統模型之間進行調度,調度彈性相對受限。現在,管理員可以在設定檔的來源清單中,將託管於外部模型供應商服務的模型一併納入管理。

當主編碼代理拆解複雜任務並派發給子代理執行時,Smart Routing 會即時評估任務複雜度、存取權限與預算規則。接著系統會自動把簡單的程式碼檢查、格式整理或檔案搜尋導向更具成本效益的外部或輕量級模型,將最昂貴的算力精準保留在關鍵架構決策上,從源頭壓低整體開發成本。

換句話說,Databricks 透過這三項更新建立了一套完整的成本優化閉環。企業先以統一的終端機與雲端代理工具收斂開發流量,再利用追蹤表與分析報表找出浪費熱點,最後透過智慧路由與共享技能把省錢策略自動化落地。

對於已經導入多款編碼代理、卻苦於無法向財務部門解釋每個月算力帳單為何居高不下的團隊而言,這套原生整合在資料平台上的控制平面,提供了從可觀測性直接走向自動化治理的具體解法。

延伸閱讀:Workday 宣布收購語意層平台 Honeydew!把企業指標定義寫進 Data Cloud,終結 AI 代理數據打架

如何開始導入 Unity Gateway Insights 與本地編碼代理?

對於已經在工作區使用 Unity Gateway 的企業團隊,這波新功能的導入門檻相當低,無須大幅更動現有架構。管理員只需要先在平台中啟用統一追蹤表,讓 Unity Gateway 開始自動記錄所有通過的代理互動明細。

接著,讓工程師在本地終端機改用 ug CLI 來啟動日常使用的編碼代理工具,例如 Claude Code、Codex 或 GitHub Copilot。系統就會在背景自動開啟 OpenTelemetry 追蹤,把每一輪提示詞與工具呼叫完整存回企業自己的資料表。

最後,只要開啟工作區中的觀察報表介面,就能立即針對過去一天、七天或三十天的用量產出浪費分析報告,並依序處理高成本的 MCP 錯誤與模型路由設定。

常見問題(FAQ)

1. Databricks Genie Code CLI 與網頁版的 Genie Code 有什麼不同?

兩者背後共享相同的企業管理與預算機制,但運作環境不同。網頁版 Genie Code 內嵌於瀏覽器的 Databricks 工作區,適合在 Notebook 與 SQL 編輯器中使用;而 Databricks Genie Code CLI 則是運行在本地終端機的編碼代理,能直接讀寫本地檔案、操作 Git 儲存庫並配合本機開發環境運作。

2. Unity Gateway Insights 支援哪些編碼代理工具的追蹤?

當工程師透過 Databricks 提供的 ug CLI 啟動 Claude Code、Codex 或 GitHub Copilot 等常見編碼代理時,Unity Gateway 會自動開啟這些工具內建的 OpenTelemetry 追蹤功能,並將完整執行紀錄寫入統一追蹤表。

3. 啟用 Unity Gateway Insights 需要把敏感程式碼傳給外部服務嗎?

不需要。代理追蹤紀錄儲存在企業自己擁有的 Unity Catalog Delta 資料表中,Insights 直接在原地進行查詢與分析,並受 Unity Catalog 的存取權限與資料列篩選器保護,不會將提示詞或原始碼匯出到外部系統。

4. Smart Routing 的外部模型支援目前處於什麼階段?

根據 2026 年 11 月 18 日的官方發布說明,Smart Routing 針對編碼代理子代理路由至外部模型的功能目前處於 Beta 測試階段,管理員需透過 Unity Gateway 受控組態中的來源設定進行配置。

總結

Databricks 在 2026 年 11 月中旬釋出的這一波更新,精準切中了企業導入 AI 編碼代理進入深水區後最迫切的需求。一方面透過 Databricks Genie Code CLI 全面可用,讓工程師在本地終端機享受流暢的代理開發體驗;另一方面則藉由 Unity Gateway Insights 與 Smart Routing,讓平台團隊對每一筆 Token 花費擁有完全的可見度與自動化省錢手段。對於正在評估或擴大導入編碼代理的企業技術主管而言,建議可以點擊下方延伸閱讀檢視更多企業 AI 用量基準,或著手盤點現有工作區的追蹤紀錄設定。

資料來源