Edge0-145B 開放下載:單張顯卡跑大模型,記憶體、速度與商用授權怎麼看?

Edge0-145B 開放模型權重與推論引擎。解析專家混合、顯卡與主記憶體分工、官方測速條件,以及內部使用與對外商用服務的授權差別。

Share
黑色背景上白色交錯幾何線條的 Edge0 官方發布主視覺
Edge0 官方模型發布主視覺,並非硬體效能測試圖。 圖片來源:官方原文。

Edge0-145B 想把大型程式模型搬回自己的電腦,讓原始碼不必為了推論送到雲端。但一張顯卡能啟動,和手邊整台電腦能順暢工作,仍是兩個不同問題。

Edge0 在 2026 年 11 月 12 日介紹一千四百五十億與一千二百億參數模型,並公開權重和推論引擎。模型權重是模型學到的數值,下載後仍要由相應軟體載入運算。

它以專家混合架構減少每次運算需要動用的部分,再讓顯示記憶體與主記憶體分工。模型總參數很多,不代表每產生一個字都會把全部參數算一遍。

十一月十六日查閱的官方測試表也顯示,降低可用顯示記憶體,能保住啟動能力,速度卻會下降。比較時必須連同顯卡、主記憶體、量化版本與工作內容一起看。

我會建議已有本機程式工作需求的人,先用既有設備試一項能驗收的任務,再決定是否添購硬體。若要把模型包成對外收費服務,還得先核對模型專用授權。

要判斷這次開放是否適合自己,先把模型如何減少運算、資料如何放進記憶體,以及測速代表哪一段工作分開。

Edge0-145B 用專家混合減少每步運算

專家混合讓每一小段輸入只選用部分參數,但未啟用的專家仍要存放在設備裡。這是理解大型本機模型的起點:運算量和要保存的資料量,會朝不同方向變化。

一般讀者看到一千四百五十億參數,容易想成每次回答都要完整跑過同樣大的網路。Edge0 的模型卡列出,這個版本每步活躍參數約一百零一點二億,其餘專家依輸入選用。

「專家」是處理不同訊息的網路部分,並不是一群在旁邊輪流對話的代理。系統選中哪些專家,取決於當下輸入,因此同一段程式任務仍可能持續用到不同部分。

官方稱這個設計為潛在專家混合,讓一組專家共用大型矩陣,再保留各自差異。它減少大量重複保存的內容,但不能把總參數直接當成同大小傳統模型的硬體需求。

這個版本有既有模型基礎

依十一月十六日查閱的模型卡,Edge0-145B 由 Qwen3.8-Flash-Next 衍生,再調整路由專家的表示方式。這個來源也影響後面的授權,不能只看引擎程式的開放條款。

對使用者來說,這些架構資訊的用處,是知道為什麼它有機會在單張顯卡運行。是否適合自己的程式工作,仍要比較實際輸出,而不是把參數數字當成品質保證。

所以總參數、活躍參數和整個檔案大小,分別回答模型規模、單步運算和儲存需求。

黑色背景上白色交錯幾何線條的 Edge0 官方發布主視覺
Edge0 官方模型發布主視覺,並非硬體效能測試圖。 圖片來源:官方原文。
Edge0 官方公告內嵌的原始展示影片;屬廠商展示,並非本刊硬體測速。 來源:官方 YouTube。

顯卡放不下全部權重,主記憶體接手保存

官方引擎把不同專家分放在顯示記憶體與主記憶體,降低單張顯卡的容量門檻。顯示記憶體是顯卡直接使用的高速空間,主記憶體則是整台電腦共用的工作空間。

依現行下載表,145B 的 Q3_K 權重約四十點八一 GiB,NVFP4 版本約四十七點七九 GiB。這是模型檔案的量級,還沒有包含所有運行中的快取與其他程式需求。

官方容量使用 GiB 計算,和硬體包裝常見的十進位 GB 有差別。抄規格時應保留原單位,尤其當可用空間已接近下載檔案大小時,不能只把單位字母換掉。

兩種版本使用不同的量化方式,也就是以較少位元保存模型數值,降低容量與傳輸負擔。量化名稱不能只當成「較小就一定比較好」,還要配合引擎支援與自己的輸出品質比較。

分層存放讓部分專家留在顯卡,其餘由主記憶體承接。資料需要時再送到運算位置,所以顯卡容量不足,不一定立刻無法啟動,卻可能增加資料搬運的等待。

這也說明「十六GB顯卡能跑」不能縮寫成「整台電腦只要十六GB記憶體」。硬碟可存下載檔案,系統主記憶體要承接運行資料,三種容量扮演不同角色。

如果電腦還要同時開啟編輯器、瀏覽器與測試服務,留給模型的空間會再減少。選設備時應先看實際可用容量,不能把機器標示的總容量全部算給模型。

記憶體分工能讓模型運行,交換資料的代價則需要從實際測速看出來。

121.2 與 44.9 token/秒,來自不同可用記憶體條件

官方在同一款二十四GB顯卡上限制可用記憶體,測到的代理輸出速度明顯不同。這裡的 token 是模型處理文字的單位,和中文字數不固定一比一,不能直接換成每秒寫多少中文字。

現行程式庫列出,RTX 5090D 二十四GB搭配145B Q3_K,在代理工作負載的輸出階段達到每秒一百二十一點二 token。相同表格另列十六K輸入的前置處理速度。

前置處理是先讀取整段輸入,輸出階段則是一小段一小段產生回答。長程式碼檔案會讓讀取時間變重要,短問題可能較在意第一個回答多久出現,兩種速度不能混成一個數字。

另一列限制可用顯示記憶體至十六 GiB,並把主記憶體上限設為二十 GiB,禁止使用交換空間。在這組條件下,代理輸出為每秒四十四點九 token。

代理輸出和一般聊天輸出也分列呈現,因為不同輸入與產生方式會改變負載。同一份測試要先選相同工作類型,再比較容量限制,才不會把工作差異誤認為硬體提升。

這一列仍使用 RTX 5090D,作者以保留顯示記憶體和限制系統記憶體模擬容量條件。它沒有測到另一張十六GB顯卡的運算與頻寬差異,所以不能直接替所有中階顯卡背書。

同一張卡在不同容量限制下有速度落差,反而有助理解分層存放的代價。對硬體已接近門檻的人,能啟動之後還要問:等候時間是否讓工作流程一直中斷?

這些數字都是廠商公開的測試結果,本刊沒有重跑硬體測速。保留版本、工作負載和記憶體設定,比只取最快一列,更能協助讀者判斷自己的條件。

這些條件說明容量與速度如何交換,不能直接換算成所有十六GB顯卡的表現。

程式評測與圖片輸入,各自要看版本和設定

官方程式評測提供選模型的線索,圖片輸入則需要額外載入視覺編碼器。視覺編碼器會先把圖片轉成模型能處理的表示,因此下載文字模型檔案,不會自動補齊看圖需要的材料。

依現行程式庫,145B 在 DeepSWE 1.1 的成績為六十四點六,TerminalBench 2.1 為八十六點五。前者偏向程式問題,後者涵蓋終端操作,這是指定評測環境下的分數。

這些數字可以幫開發者挑選先試哪個模型,卻不保證能一次修好你的專案。專案的語言、測試完整程度,以及工具給模型看到哪些檔案,都會影響結果。

模型卡另列圖片輸入所需的視覺編碼器檔案與設定。若任務是看介面截圖修改程式,需要一起確認該組配置,而不能只依「支援圖片」推論任意安裝都能使用。

引擎的執行平台也應按當日支援表選擇。十一月十六日查閱時,官方列有 NVIDIA CUDA 的 Linux、Windows 路徑,以及 Apple Silicon 的 Metal Q3_K 支援。

平台支援表示有對應運行路徑,並不代表每種設備都得到同一個測速。Apple 筆電的可用記憶體和散熱條件,也不能從桌上型 NVIDIA 測試直接代入。

能力表能縮小試用範圍,自己的專案仍要由修改結果和測試通過與否驗收。

程式碼與模型權重,採用不同授權

推論程式公開,不代表模型權重能以同一張授權任意包裝販售。十一月十六日查閱的模型檔案,附有十一月十二日版本的 Edge0 Community Model License 1.0。

這份條款針對指定的 Edge0 貢獻,並保留上游 Qwen 材料的條件。即使引擎程式使用 Apache 2.0、部分元件使用 MIT,也不能把那些程式授權套到所有權重。

依模型授權文字,個人、研究和公司內部工作原則上可使用,商業產出也不因為賣出而自動產生 Edge0 費用。這讓「替自己的工作跑模型」和「販售模型服務」有明確差別。

如果把權重包進商品販售,或對外提供讓客戶自行輸入內容的收費模型推論、微調服務,條款要求另取得書面許可。獨立商業程式或辦公助手,也列在需要另談的範圍。

因此,一位接案者拿模型協助寫程式,與一家公司把它做成收費程式助手,不能只因為都涉及收入,就當成同一種使用方式。條款關心的是提供什麼服務,而非只問使用者有沒有賺錢。

官方也沒有因此保證每段產出都不涉及第三方權利。產品團隊需要按實際包裝方式核對原始條款,上游條件仍要一起看,才能知道是否需要聯絡授權方。

先辨認自己是在內部使用模型、出售產出,還是對外提供模型服務,授權問題才問得準。

先測現有設備,再決定是否換工作流程

第一項試用應保留模型版本、硬體與任務結果,讓速度和品質能一起比較。可以從一項範圍清楚的程式修正開始,例如補上一個已有失敗測試的功能。

讓模型讀相同檔案、完成相同修改,再記錄啟動時間、讀取輸入等待,以及修改後測試結果。若只比較回答速度,可能選到回得快、卻需要人花更多時間重修的版本。

需要圖片輸入的人,也應在同一份記錄保留視覺編碼器與設定。這樣換量化版本或引擎後,才知道結果變化來自哪一部分,而不把設定遺漏誤判成模型看不懂。

本機推論讓資料路徑有機會由自己掌握,但編輯器外掛、搜尋工具與遠端服務,仍可能另外連線。要確認程式碼是否外送,應看整條工具流程,而非只看模型在哪裡運算。

如果你的主要問題是偶爾等待雲端回覆,可以先測既有設備,不必因為能跑145B就立即升級。若工作需要持續處理長輸入,前置讀取和多工時的容量反而值得優先量測。

能在自己的專案穩定完成修改,才有依據把本機模型接進日常工作。

Edge0-145B 常見問題

Edge0-145B 是完全從零訓練的新模型嗎?

現行模型卡說明它由 Qwen3.8-Flash-Next 衍生,再改變專家部分的表示方式。理解這個來源,有助於一起核對能力比較和上游授權,不能只看產品名稱判斷。

十六GB顯卡能跑,就不需要更多主記憶體嗎?

仍需要主記憶體承接資料。官方低容量列同時設定十六 GiB 可用顯示記憶體與二十 GiB 主記憶體,而且使用同一款二十四GB顯卡模擬限制,並非所有十六GB卡的實測。

我可以用它做收費程式助手嗎?

模型授權把內部使用、出售產出與對外提供模型服務分開。獨立商業程式助手及收費模型服務列有另行書面許可條件,應依自己的產品方式回查原始條款。

官方速度能直接當成我的電腦速度嗎?

不能直接代入。顯卡型號、可用記憶體、量化方式、輸入長度與工作負載都會影響等待。先用可驗收的同一任務比較,會比只看最高 token 速度更有參考價值。

如果你的目標是讓程式碼在本機處理,先保留現有設備,選一個能驗收的修正任務比較等待與結果。當容量、品質和授權都符合實際用途,再決定是否把更多工作搬回自己的電腦。

延伸閱讀:TNG 示範新增 MoE 專家:Rust、Haskell 能力如何合併,和 LoRA 有何差別?

延伸閱讀:BotPsy 0.8B 開放:手機 AI 代理會叫工具,為何還不能代管錢?

原始資料來源