Caveman 開源破 12 萬星!用電報式語法幫 AI 寫程式代理省下 33% 輸入 Token
GitHub 破 12 萬星的開源工具 Caveman 推出 v4.1.0,透過「說更少」與本機代理 Proxy 壓縮工具輸出,官方測試顯示可省下 33.2% 輸入 Token 並維持程式碼精確度。
開發者每天在終端機裡使用 Claude Code、OpenAI Codex CLI 或 OpenCode 等 AI 寫程式代理時,帳單往往不是被程式碼本身吃掉,而是被大量冗長的禮貌性寒暄、重複解釋,以及動輒數千行的測試日誌與網頁抓取結果消耗殆盡。
為了解決這項痛點,由開發者 Julius Brussee 發起的開源專案 Caveman,以「能用少數 Token 解決的事,為何要用這麼多 Token」為核心理念,在 GitHub 上迅速累積超過 12 萬 1 千顆星與 7 千次分支,並於 2026 年 11 月初釋出 v4.1.0 維護更新。
Caveman 最初只是一份讓 AI 代理「像原始人一樣講重點」的提示詞技能檔,但發展到 4.0 與 4.1.0 版本後,已經演進為結合技能層與本機代理伺服器(Local Proxy)的六大模組套件。它不僅能縮短模型的回覆篇幅,更會在資料送進大型語言模型之前,先在本機端把冗長的系統日誌、JSON 與測試輸出壓縮,同時保留每一份原始內容以便隨時還原。
更關鍵的是,Caveman 並非只適用於單一工具,而是透過 npx @caveman-ai/cli@latest 一鍵支援超過 30 種常見的 AI 寫程式代理與編輯器環境,並採用 Apache-2.0 開源授權,讓開發者在現有的 API 金鑰或訂閱帳號下就能直接掛載使用。
究竟這種刻意省略冠詞與客套話的「原始人語法」,會不會導致寫程式能力下降?本機 Proxy 又是如何做到省下超過三成輸入 Token 的?以下從架構設計、官方與第三方基準測試,以及 v4.1.0 的安全性強化逐一解析。
為什麼 AI 寫程式代理的 Token 浪費這麼嚴重?
許多團隊剛導入終端機寫程式代理時,常誤以為成本主要來自模型產出的程式碼行數。事實上,代理在多輪互動中真正消耗額度的最大來源,往往是反覆被讀進上下文視窗(Context Window)的輸入資料,以及模型每次思考前後的「清嗓子」敘述。
舉例來說,當代理執行一次單元測試或讀取一份長達數百行的 JSON 設定檔時,終端機吐出的完整日誌會原封不動塞進下一輪對話的輸入脈絡中。隨著對話輪數增加,這些歷史輸出與系統記憶檔(例如 CLAUDE.md)會在每一次 API 呼叫時重複計費。
另一方面,多數語言模型預設受到人類偏好對齊訓練的影響,習慣在給出修復建議前先寫一段「這可能是因為你的元件在每次渲染時建立了新的物件參照⋯⋯」的完整說明。根據 Caveman 官方文件展示的比對案例,一段原本需要 63 個 Token 的 React 重繪原因解釋,在改用 /caveman 模式後只要 20 個 Token 就能傳達完全相同的修復方向,若切換到更精簡的 /ultracave 更能壓到 14 個 Token。
延伸閱讀:Databricks Genie Code CLI 正式全面可用!同步推出 Unity Gateway Insights 與智慧路由抓出 AI 代理 Token 浪費

Caveman 4.0 與 4.1.0 的六大核心模組怎麼運作?
從 4.0 版本開始,Caveman 不再只是單純的系統提示詞規則,而是整合成一套包含六個可獨立開關模組的完整工具鏈。開發者安裝後可以透過 caveman status 檢視各模組狀態,或隨時用 caveman off <模組名稱> 關閉特定功能。
1. Say less:壓縮代理回覆,但程式碼逐字保持精確
「Say less」是 Caveman 最早成名的技能層。它透過規則約束代理在文字說明時改用電報式短句,省略冗詞與情緒價值,但對於程式碼區塊、檔案路徑、錯誤訊息原文與終端機指令則要求逐字保留,不允許任何縮寫或改寫。開發者可以依任務需求切換三種壓縮強度(以 tiktoken o200k 計算同一個 React 解釋範例):一般 /caveman 模式將 63 個 Token 壓縮至 20 個、/ultracave 進一步壓縮到 14 個 Token,而 /megacave 甚至能精簡至 13 個 Token。依據官方說明,在測試樣本數為 10 的對照中,一般模式可比單純要求「簡潔回答」再縮短約 3%,而 ultracave 模式則可縮短 35%。
2. Read less:本機 Proxy 攔截並壓縮工具輸出
真正大幅度省錢的關鍵在於「Read less」。透過 @caveman-ai/cli 在本機啟動代理伺服器後,所有寫程式代理呼叫工具回傳的測試日誌、JSON、CSV 與網頁內容,都會先在本機完成精簡再送往上游模型供應商。根據 Caveman 官方公布的 2026 年 8 月引擎基準測試,在 6 項包含大量工具輸出的合成任務(共 18 組配對)中,整個工作階段平均減少了 33.2% 的輸入 Token,且 18 次回答全數正確。
3. Auto 路由與 Blocks 腳本複用
針對不同難度的任務,Caveman 4.0 新增了 Auto 智慧路由與 Blocks 程式碼模式。Auto 會依據每次提問的複雜度自動挑選合適的模型與推理強度,在官方 85 項程式任務的期中測試裡,費用降至 Opus 最高推理強度的 0.46 倍,不過官方也坦承當時仍有約正負 7 分的品質誤差區間尚待釐清。至於 Blocks 則讓代理把常執行的測試或檢查寫成可重複呼叫的腳本,官方舉例單次測試執行的 Token 消耗因此從 397 降至 76。
4. Waste fixes 與 Browse 網頁壓縮
Waste fixes 模組專門檢查工作階段中的 Token 浪費點,並在開發者暫停操作時協助維持提示詞快取(Prompt Cache)的熱度,避免快取過期重新計費。Browse 模組則會壓縮代理抓取到的網頁結構,在官方針對一份 200 列資料表的測試中,完整頁面比 Playwright 預設抓取小了 14.9%,若搭配查詢條件更可從 15,704 個 Token 縮減至 121 個。
官方與外部實驗怎麼看「原始人語法」的品質風險?
把 AI 的語氣壓得這麼短,會不會讓模型變笨、甚至寫出錯誤的程式碼?這是許多工程師對 Caveman 最大的疑慮。對此,Caveman 官方在專案首頁整理了多份外部研究與實驗室的獨立測試結果,並明確區分實驗條件。
- Adobe Research(CAVEWOMAN 論文):研究團隊引用 Caveman 專案並測試了 8 種模型與 5 個資料集,結果顯示採用類似的精簡輸出策略後,每個模型的推論成本下降 1.4 到 2.4 倍,最高可達 3 倍。
- Elasticsearch Labs:工程團隊將 Caveman 模式改寫並套用到 Elasticsearch 的 8 個即時 MCP 情境中,結果回應 Token 減少了 63.6%,且團隊評估達到「零資訊損失」。
- JetBrains A/B 測試:JetBrains 在 2026 年 7 月針對 86 項真實寫程式任務進行配對 A/B 測試,結果顯示在大幅節省 Token 的同時,並未出現可測量的任務品質下降。
儘管外部研究普遍給出正面訊號,開發團隊仍在文件裡誠實標註尚未解決的邊界條件,例如 Auto 路由的品質波動仍須更多驗證,並提醒使用者不應在未經測試的情況下,將極端壓縮套用到需要高度推論細節的架構審查任務中。此外,團隊也同步推出整合各家代理的桌面端環境 Caveman Code,並在 Terminal-Bench 4 基準測試中以相同底層模型進行對照(測試時開啟基準設定,正式發行版則關閉三項僅供基準測試的參數):搭配 GPT-6.1 Sol 時,每次成功解題的成本為 1.21 美元(對比 Codex 的 1.52 美元,在 192 次執行中有 90 次雙方皆解題成功);搭配 Opus 5.5 時,180 次執行解出 97 次(對比 Claude Code 的 177 次解出 83 次),每次解題成本為 5.19 美元對比 6.04 美元(95% 信賴區間為 0.70x 至 1.02x),呈現與主流商業代理相當或微幅節省的趨勢。
Caveman v4.1.0 帶來哪些安全與穩定性修正?
在 2026 年 11 月 8 日釋出的 v4.1.0 維護版本中,開發團隊針對實際上線後常見的故障與資安風險做了幾項關鍵調整,也是準備升級的使用者需要特別留意的變更。
首先是機密資訊防護。新版的 caveman-compress 記憶檔壓縮工具會主動拒絕處理內含真實憑證的檔案,例如私鑰區塊、雲端服務金鑰或模型 API Token。官方強調,壓縮過程會將檔案內容送往模型供應商,因此開發者必須先把機密移至環境變數或密鑰管理工具;觸發阻擋時系統只會指出行號而不會印出機密本身,但像是 sk-... 或 $OPENAI_API_KEY 這類佔位符仍可正常壓縮。
其次是還原儲存區(Recovery Store)的容量管理。過去為了確保「每一份被壓縮的原始輸出都能還原」,儲存區會永久保留所有歷史檔案,導致長期使用後空間爆滿、進而讓壓縮功能停擺。v4.1.0 導入自動過期機制:當寫入將超過上限時,系統會優先清理閒置超過 14 天的封存工作階段或閒置 30 天的一般工作階段物件,直到使用量降回 80%,若試圖讀取已過期的控制代碼則會明確回報狀態。
第三項重要變動則是設定檔相容性檢查。過去在 providers.<name> 區塊底下設定 forward_headers 會被系統靜默忽略,導致上游 API 回傳 401 未授權錯誤卻找不到原因;v4.1.0 改為直接在啟動 Proxy 時報錯阻擋,引導開發者改用 compat.<name> 掛載點設定 base_url 與 forward_headers(若上游採用 Anthropic 協定,則需額外加上 wire_dialect: anthropic),同時也修正了 OpenCode、Hermes 與 Pi 等環境的掛鉤(Hooks)問題並恢復從技能市集安裝的支援。
適合哪些開發者與工作流程導入?
如果你目前主要使用 Claude Code、Codex CLI、Gemini CLI 或 OpenCode,且團隊已經建立了一定規模的本機記憶檔(如 CLAUDE.md)與自動化測試腳本,Caveman 幾乎可以零痛點接入。使用者只要在終端機執行 npx @caveman-ai/cli@latest(需 Node.js 22.13 以上版本;若先前安裝過 4.0 以前版本,建議加上 @latest 標籤以免沿用舊版快取),精靈就會自動偵測本機已安裝的代理工具並顯示預計修改的項目,確認後即可完成掛載。
若開發者只想先體驗「說話精簡」的技能層,而不想立刻啟用本機 Proxy 攔截器,也可以只執行 npx skills add JuliusBrussee/caveman -g 單獨安裝提示詞技能,或在對話中視任務複雜度隨時切換 /caveman、/ultracave 與 /megacave 等不同強度;未來若想重新調整設定,則可隨時呼叫 caveman setup 再次開啟精靈介面。相反地,若你的團隊受到嚴格合規規範限制、不允許在終端機與模型之間多掛一層本機代理,或是正在處理極度仰賴詳細文字推理的架構審查任務,則建議先從局部專案試點開始,並確認資安政策是否允許。
至於已經在使用記憶檔壓縮指令 caveman-compress 的團隊,務必記得 v4.1.0 的新保護機制:任何包含真實憑證或 API 金鑰的檔案都會被直接阻擋,開發者應先將機密抽離至環境變數或密鑰管理系統,僅保留佔位符,再交給壓縮工具處理。
延伸閱讀:LiteLLM agent_eval API 預覽:自己的任務怎麼比較代理,為何不能只看通過率?
常見問題(FAQ)
Q1:使用 Caveman 會不會讓 AI 寫出來的程式碼也被縮寫或出錯?
不會。根據 Caveman 官方設計規範,精簡語法只針對自然語言解釋與對話客套話,程式碼區塊、檔案路徑、指令參數與錯誤訊息原文都會逐字保留。
Q2:安裝 Caveman 需要把 API 金鑰交給第三方雲端嗎?
不需要。@caveman-ai/cli 是在開發者本機端執行的 Proxy 與技能套件,會沿用你原本的 API 金鑰或 Claude Pro/Max 等既有登入憑證,只有額外啟用選配的 Auto 功能時才需要免費帳號。
Q3:如果代理壓縮了測試日誌,事後需要看完整錯誤訊息怎麼辦?
Caveman 在本機設有還原儲存區(Recovery Store),所有被精簡的原始工具輸出都會保留還原控制代碼(Handle),代理或開發者可依需求調回完整原文;v4.1.0 起僅會自動清理閒置 14 至 30 天以上的舊紀錄以釋放空間。
Q4:Caveman 支援哪些 AI 寫程式代理?
官方文件標註支援超過 30 種代理與工具,包含 Claude Code、OpenAI Codex CLI、Gemini CLI、OpenCode、Cursor 與 Windsurf 等主流終端機與編輯器環境。
總結
Caveman 之所以能在短時間內於 GitHub 突破 12 萬顆星,並獲得 Adobe Research、Elasticsearch Labs 與 JetBrains 等團隊的實驗驗證,關鍵在於它用極低的導入門檻,解決了 AI 寫程式代理最真實的成本痛點。從單純限制語氣的技能檔,進化到具備本機 Proxy、腳本複用與憑證防護的 v4.1.0,Caveman 證明了在代理工作流中,「減少雜訊」往往比單純換用更便宜的模型更能兼顧效率與程式碼精確度。
對於每天高頻率使用終端機代理的工程師與團隊而言,透過本機 Proxy 攔截動輒數百行的測試輸出與 JSON 資料、搭配可控的電報式回覆語氣,不僅能直接省下超過三成的輸入 Token 費用,也能讓終端機畫面更聚焦在真正需要決策的程式碼差異與錯誤訊息上。隨著代理工具逐步成為開發日常,這類兼具透明還原機制與低入侵性的壓縮層,將成為控制 AI 研發預算的重要基礎配備。