Nanbeige4.3-33B 開放權重：先打造教師模型，程式代理成績與部署代價怎麼看？

想在本機執行 AI 代理，模型大小和工作能力常要一起取捨。Nanbeige4.3-33B 先打造教師模型，33B 指約 330 億個參數，這是模型運作的數值規模，並非記憶體容量。

Nanbeige 團隊於 2026 年 10 月 25 日在 X 宣布這款模型，並公開模型權重與 Base 版本。權重是模型訓練後用來運作的參數檔，取得它才有自行部署的基礎。

這次已能下載的是 33B 教師模型，後續 3B 小模型仍是計畫。因此，讀者不能把「為輕量代理鋪路」理解成新版 3B 已經推出。

官方評測在部分程式與辦公代理任務上進步明顯，但也有輸給對照模型的項目。要拿來完成工作，得看任務是否相近，以及測試使用了哪些設定。

對能自架模型、需要多步驟工具工作的團隊，我會把它列入比較。若想在小顯示卡上直接使用完整長上下文，仍須先確認記憶體和執行成本。

這個差別，要從教師模型的用途和它實際公開的能力看起。

Nanbeige4.3-33B 是什麼？教師模型也能直接做工作

這款 33B 級模型既是可部署的代理模型，也是團隊規劃中用來訓練後續小模型的教師。教師描述的是訓練流程中的角色，不會讓它失去直接回答或執行工作的用途。

根據 Nanbeige 官方模型卡，團隊先提高較大教師的能力，再以它作為後續蒸餾小模型的基礎，起點包含規劃中的 Nanbeige4.3-3B。

蒸餾是把較大模型的能力教給較小模型的訓練方法。但小模型最後保留多少能力，仍要等實際產物和測試，因此不能用教師的成績替尚未發布的學生模型背書。

這次同時公開的 Base 是基礎版本，和為對話、推理與工具使用調整過的模型不同。一般應用若要比較現成代理能力，應先確認下載的是哪一個版本。

這裡有兩組不同的分類：教師與學生描述訓練角色，Base 與對話模型則描述釋出版本。選擇 Base，並不等於取得那款規劃中的小模型；反過來說，使用教師模型，也不代表必須先自行訓練學生才能開始工作。

對準備下載的團隊，這會影響版本紀錄。若把不同版本的模型檔、提示格式和成績混在一起，後續遇到工具呼叫失敗時，就難以分辨是整合方式不同，還是模型本身沒有完成工作。

代理指的是能根據工作要求，分步呼叫工具並接續處理的 AI。它可能需要讀檔案、修改程式，再根據測試結果繼續修正，所以評估不能只看一輪文字回答。

官方把程式與專業辦公工作列為主要用途，並提供不同執行框架的例子。這些資訊說明它可以被放進工作系統，但工具權限與完整流程仍需要應用另外安排。

能下載只是起點，它在工作中有多少幫助，得看測試考的是什麼。

程式與辦公評測進步在哪裡？也保留落後的項目

官方相同工具環境的比較顯示，Nanbeige 在多項代理任務領先，但優勢沒有覆蓋所有測試。發布者的「同級領先」定位，仍需要逐項拆開理解。

模型卡比較約 30B 級的近期模型，並說各模型使用最高思考設定，在每項測試中採相同的推論參數和工具環境。以下保留幾個會影響工作選擇的項目。

表中前兩項顯示官方測試的程式代理優勢，後兩項則由 Qwen 較高。這些數字來自不同題組，不能把分數相加，變成所有工作的統一準確率。

程式任務也有差別。能在終端機完成一組工作，和能在真實程式專案中修好特定問題，牽涉的環境與評分方式不盡相同，因此自己的使用情境會影響參考順序。

如果團隊要做辦公文件，則應留意是否能產出符合要求的完整成果。程式成績較高，不會自動證明表格欄位、文件內容和交付格式都更合適。

模型卡也列出 GPQA-Diamond，Nanbeige 為 89.5，Gemma4-31B 則是 91.3。這再次說明，選定的一些優勢，不能擴寫成每項推理能力都領先同級模型。

本次資料是發布者的評測，本刊沒有重新跑出相同分數。若要把成果轉成採用決定，仍應保留相同任務、工具與預算，確認優勢能否在自己的環境重現。

這些測試使用的思考與歷史保留設定，也會影響實際部署後的表現。

思考模式與歷史推理怎麼設？先分清兩個開關

是否替這一輪產生推理，和是否保留前幾輪的推理，是模型提供的兩個不同控制項。兩者混在一起，會讓開發者不清楚究竟改變了哪一段運作方式。

模型卡中的 enable_thinking 控制當前回應是否生成推理，預設開啟。preserve_thinking 則控制多回合對話中，前面回合的推理內容是否繼續保留。

對一般聊天與問答，官方建議不要保留歷史推理。對多回合工具使用、辦公任務與程式代理，則建議保留，讓後續工作能延續先前處理的脈絡。

這是提供給開發者的設定選擇，不代表使用者必須閱讀所有中間推理。應用仍需決定要保存哪些工作證據，以及哪些結果適合顯示給使用者。

官方評測的 Nanbeige 使用 preserve_thinking=true，所以比較成績時也要保留這個條件。若自己的服務使用另一套設定，就不能預設結果會和表格相同。

工具呼叫也有格式選項。官方推薦 XML，並提供 JSON 相容方式，這些都是讓程式讀懂模型要呼叫哪項工具的資料格式，仍需和應用的解析方式配合。

如果模型提出工具要求，但應用沒有正確執行或回傳結果，代理就無法完成整段工作。因此，工具格式和執行結果也應納入測試，不能只檢查文字看起來是否合理。

保留越多工作歷史，對長上下文和記憶體的要求也越需要實際量測。

512K 上下文能放什麼？容量上限和硬體成本要一起看

模型支援最高 524,288 個 token 的上下文，但這個上限不代表任何硬體都能順利開滿。Token 是模型計算文字的片段，並不等於中文字數。

上下文可以理解成模型這次處理工作時所看到的內容，可能包含指令、先前對話、檔案片段與工具結果。長任務不斷增加資料，因此容量會受到這些內容共同影響。

能放進較多文件，對需要跨檔案找資料的工作有幫助。但資料量增加後，也要觀察模型能否找到正確片段，而不是只確認所有內容都成功送入。

例如，若同一份專案中有新舊兩套設定，模型需要分辨哪一套仍有效。這項判斷涉及內容關係，不能只靠上下文長度證明一定能做對。

官方另列出建議的最大新增輸出：代理與工具工作為 65,536 個 token，推理與聊天為 262,144 個。新增輸出和整體上下文是不同限制，不能把兩者當成可以任意疊加的額度。

記憶體方面，除了模型權重，還要容納工作歷史的運算資料和執行框架。即使使用較精簡的模型檔，開很長的對話仍可能增加資源需求。

官方 SGLang 與 vLLM 例子使用四路平行配置，也就是分配到多個運算資源。這是範例設定，不構成所有部署都必須四卡的最低硬體聲明，也沒有保證單張小卡就能跑完整長度。

因此，硬體規劃應從預計任務的實際長度出發。若日常工作只需要較短內容，先用那個範圍量測，比一開始追求最高容量更容易估算成本。

硬體安排確定後，還要確認下載與整合的授權範圍。

Apache 2.0 開放哪些選擇？自架不等於免維運

模型卡採 Apache 2.0，提供自行下載與整合的選擇，但部署仍要負擔運算、服務與維護。開放取得模型檔，和已經有人替團隊提供穩定服務，是不同的事情。

官方提供 Transformers、SGLang 與 vLLM 的使用例子，這些工具負責載入模型或把模型變成可呼叫的服務。團隊需要依自己的硬體和應用決定執行方式。

若工作需要程式串接，就要安排 API 介面，也就是讓應用送出要求並取得回應的入口。模型的工具呼叫能力，並不會代替伺服器、排程與權限管理。

正式整合時，應保留下載版本、授權文件和相關第三方元件資訊。因為後續更新模型或改執行框架時，這些紀錄能幫助團隊判斷哪些部分需要重新測試。

本次模型卡沒有提供一套通用的代管 API 價格，也沒有公布所有個人電腦的實際速度。因此，比較自架與外部服務時，不能自行補上固定的省錢倍數。

較完整的成本包含設備、工作等待、故障處理和人工接手。若模型在特定工作需要更多重試，較便宜的每次運算，仍可能換來較高的完成成本。

如果能掌握環境與成本，就可以用相同任務確認模型是否比現有方案更適合。

先比較一個可重現的代理任務，再決定是否換模型

我建議先選有明確輸出與核對依據的工作，固定工具和預算，比較成功率與人工接手成本。這是本刊提出的測試方法，並非已經跑過的效能結果。

例如，在一個可回復的小型程式專案中，選一項已有重現方式的錯誤，保留修改前版本與測試。兩個模型都取得相同檔案和工具，再比較能否修好問題，以及有沒有破壞其他功能。

這個例子也能檢查代理是否真的接續工作。若工具回報失敗，模型是否重新看結果、調整修改，比單次產出多少程式碼更接近團隊要買的能力。

辦公工作則可以保留原始資料和應交付的表格欄位，檢查數字、來源及檔案是否可修改。若模型需要較多人工重排，就應把那段時間算進總成本。

測試時也應記下思考設定、是否保留歷史，以及使用的模型版本。因為這些條件改變後，前一輪結果就未必能直接延用。

當交付品質和完整成本都有紀錄，教師模型的能力才會變成可以採用的工具，後續較小的模型也能沿用同一組任務比較。

若在意更小模型的思考和速度取捨，可以先看不同檔位如何影響工作，再判斷自己的任務需要多少推理時間。

延伸閱讀：Spark-X2.6-4B 開放本機代理模型：三檔思考模式，速度與可靠度如何取捨？

另一條本機程式模型路線，則把模型設計與推論工具一起提供，適合搭配閱讀，觀察不同團隊如何安排部署與工作分工。

延伸閱讀：Recursive Flint 開放權重：40B 本機程式模型，Eureka Machine 幫忙做了什麼？

Nanbeige4.3-33B 常見問題 FAQ

Nanbeige4.3-3B 已經能下載了嗎？

這次官方發布的是 33B 模型與 Base 版本，3B 被列為後續小模型計畫。不能把教師模型的公開，當成學生版本已釋出的證據。

教師模型是不是只能用來訓練，不能聊天？

教師是它在後續訓練流程中的角色，模型本身仍可直接執行支援的對話與代理工作。實際用途要依模型版本和整合方式判斷。

支援 512K，代表任何顯示卡都能開滿嗎？

上下文上限不等於硬體保證。權重、歷史資料與執行框架都占用記憶體，應依實際任務長度和配置測試。

官方代理分數很高，代表實際工作一定比 Qwen 好嗎？

官方表格本身就有 Qwen 較高的項目，且不同任務的要求不一樣。採用時應比較自己的完整交付，不能只選一列分數作結論。

有部署能力與固定任務的團隊，適合把它列入比較

Nanbeige4.3-33B 把教師模型、程式代理與辦公工作放在同一條發展路線，對需要自行掌握模型與資料的團隊，提供了一個新的候選。

現在可以做的，是用已公開的版本比較可驗證任務，再量測工作時間與資源。若主要需求是更小、更容易啟動的模型，則應等後續實際版本和測試，不提前把教師成績算到它身上。

歡迎免費訂閱 AI 郵報，持續追蹤開放模型的實際用途、部署條件與新版本進度。

資料來源

• Nanbeige 官方發布貼文。
• Nanbeige4.3-33B 官方模型卡與評測。
• Nanbeige4.3-33B-Base 官方模型頁。