Liquid Open d1 開放模型權重:8 毫秒做出選擇,邊緣 AI 能走到哪裡?
Liquid AI 發布可下載的 d1-3B 與實驗版 d1-omni-600M。本文深入分析單次決策、多模態輸入、RTX 與 Jetson 延遲測試、品質評估與自訂授權,說明邊緣裝置採用 Open d1 的實際條件。
讓 AI 看見畫面後立刻做出選擇,是智慧設備的一個實際需求。Liquid AI 在 2026 年 10 月 7 日發布 Open d1,提供可下載的 d1-3B 與 d1-omni-600M 模型權重。前者接受文字與影像,後者是涵蓋文字、影像及音訊的實驗版本。這次的新聞重點是部署方式向裝置端擴展,開發者可以在自己的硬體與資料流程中測試。
Open d1 採用決策模型的工作方式,輸入資料與候選答案後,直接回傳選擇及相關分數。它適合處理「送往哪個部門」「畫面屬於哪個狀態」等問題。模型不用逐字寫一篇回答,有機會縮短等待時間。要理解這次發布的價值,需要把推論速度、決策品質、裝置限制與實際授權分開看。
權重可以下載,讓裝置端測試有了起點
模型權重是訓練後保存的參數,決定模型如何處理輸入。開放權重意味著開發者可以下載並在自己的環境執行,但使用條件仍由附帶授權決定。依 Liquid AI 的發布說明,兩個 Open d1 模型已放上 Hugging Face,也有本地執行文件與 llama.cpp 支援。llama.cpp 是讓模型在多種硬體上執行的軟體工具。
這對工廠、設備商與需要本地處理資料的團隊,有直接的測試意義。以攝影機辨識為例,資料先在裝置端處理,可以減少每張畫面都上傳雲端的需求。網路不穩時,裝置也可能保留部分功能。不過,模型能下載不代表整套系統已經離線可用,影像前處理、外部查詢與管理工具是否需要網路,都要另外確認。
開放權重也讓測試更容易重現。團隊可以記錄模型版本、執行程式與硬體設定,再比較更新前後的結果。如果依賴遠端服務,模型版本變動有時會與應用程式更新混在一起。可控制部署版本,有助於排查錯誤,尤其適合要長期維護大量相同設備的產品。
本文的中心判斷是,Open d1 提供了一個可實際驗證的本地決策元件。它的價值取決於任務能否被清楚表示成選項,以及使用者的設備是否能穩定完成整條資料流程。把可下載的模型接進產品,仍需要工程設計與評估,無法只靠官方展示就推定所有裝置都能達到相同效果。
單次讀取資料,適合答案範圍明確的工作
一般文字模型要逐步產生輸出,決策模型則可以在一次前向運算中為選項評分。前向運算,就是把輸入通過模型,得到結果的一次計算。依 d1-3B 官方模型卡,呼叫可以提供同一份狀態與多個具名問題,讓模型讀取一次資料後回答。輸出形式涵蓋選項、真假與評分等類型。
這種方式對明確流程很有吸引力。例如,客服信件分流可以列出帳務、物流與技術支援,並為每個選項附上定義。模型只要做出分流選擇,後續軟體就能直接使用。若需要同時判斷急迫程度,也能在同一份資料上增加另一個問題。實際是否能提高效率,要看選項數量、輸入長度與模型支援格式。
選項設計會直接影響結果。若所有選項都不適合,模型仍可能在其中挑一個。團隊可以設計「資料不足」或「交由人工處理」等出口,再以案例確認模型會在合理情況使用。這是應用層的設計建議,不能假設加入一個拒答選項,系統就自動知道哪些案例超出能力。
分數也需要小心解讀。模型對某個選項給出較高分,表示它在這次判斷中的偏好,是否能解讀為可靠概率則要看校準結果。校準是比較模型信心與實際正確率的程序。使用者看到百分之九十的信心,不應直接認定這個特定案件有百分之九十機率正確,因為資料類型改變時,過去的校準關係可能失效。

八毫秒的結果,來自特定硬體與工作條件
速度是這次發布最容易引起關注的數字。官方對 d1-3B 的單一問題測試,列出 RTX 4090 為八毫秒、Jetson AGX Thor 為十六毫秒、Jetson AGX Orin 為二十六毫秒,Orin Nano 為五十毫秒。這些是供應商公佈的推論結果,應連同官方工作負載與執行條件閱讀,不能直接當成任何攝影機系統的總延遲。
| 官方測試設備 | 單一問題延遲 | 3.4K token 狀態延遲 |
|---|---|---|
| NVIDIA RTX 4090 | 8 毫秒 | 102 毫秒 |
| Jetson AGX Thor | 16 毫秒 | 220 毫秒 |
| Jetson AGX Orin 64GB | 26 毫秒 | 560 毫秒 |
| Jetson Orin Nano | 50 毫秒 | 1,640 毫秒 |
同一張表已經說明,輸入條件會大幅改變速度。短問題能迅速完成,不代表幾千個 token 的背景資料也一樣。裝置若還要接收畫面、縮放圖片、讀取檔案與傳送結果,總時間會更長。這些階段必須一起量測,纔看得出產品是否真的能即時運作。
對影像應用來說,連續運轉也比單次速度更重要。設備長時間工作可能遇到散熱限制,多個程式同時使用硬體也會競爭資源。團隊可以先測一段持續輸入的影片,記錄平均延遲與最慢那部分請求,再確認是否會積壓畫面。即時系統需要知道偶爾的慢回應是否會讓整條流程失去節奏。
官方還提供多問題共用狀態,以及批次處理的測試。這提醒開發者,資料安排方式可能與模型大小一樣重要。若三個問題都針對同一張畫面,分三次重讀資料可能浪費運算。把它們合理合併,可以減少重複處理,但也要控制一次請求的複雜度,避免為了合併而讓每個判斷都變慢。

小模型的比較,需要保留測試範圍
d1-3B 在官方引用的 Decision Index 公開部分得到四十八點五七分,d1-omni-600M 為十五點九五分。官方也提供閱讀理解、意圖分類與跨語言等文字評估。這些資料有助於挑選要先測試的模型,不能把單一指數當成所有任務的能力總結。文字分類表現較好,也不代表音訊或複雜視覺場景同幅改善。
Liquid AI 明確把 d1-omni-600M 列為實驗版本。其模態輸入是文字搭配影像,或文字搭配音訊,不能直接推定同時讀取任意長度的影片、聲音與所有背景資料。官方這次也沒有公佈私有視覺評估部分的成績,並指出專門的音訊決策基準仍有待發展。產品展示與完整評估之間,存在需要團隊自己填補的空間。
比較兩個版本時,應先決定工作重點。如果任務重視判斷品質,較大的 d1-3B 可能是更合適的起點。若記憶體與裝置體積限制較嚴格,可以測試小型版本是否足夠。模型規模本身沒有好壞,它影響的是能力、資源與部署方式的取捨。這種取捨要由具體任務的誤判代價決定。
d1-3B 模型卡列出的上下文長度為三萬兩千七百六十八個 token,表示一次輸入有明確窗口。長文件若超過窗口,應先選取相關內容或分段處理。分段又可能讓跨段條件失去聯繫,因此應保留問題所需的共同背景。可讀取長資料與能可靠掌握每一項細節,也是需要分別驗證的能力。
以門市攝影機為假設案例,判斷畫面是否有人與辨認精細商品狀態,是難度不同的工作。第一種問題可以先用小型模型測試,第二種則需要更精細的影像與樣本。若只用清楚、正面拍攝的展示圖片評估,就可能忽略逆光、遮擋與低照度等現場條件。分類標籤相同,資料難度仍可以差很多。

本地決策可以減少傳輸,也需要可追查的紀錄
裝置端運作對隱私與網路成本有潛在好處,但它也把維護責任帶到團隊手上。模型、執行工具與設備版本要保持一致,更新後也需要確認行為沒有退步。若每臺裝置各自使用不同設定,出現誤判時就難以追查。可重現的版本紀錄,是本地部署的重要基礎。
對影像與音訊任務,團隊可以先保存去除不必要個人資料的測試集,再記錄模型讀入哪些內容與做出哪種選擇。保存多少原始資料,取決於業務與資料管理要求。本文建議的重點是保留足以排查問題的證據,同時避免為了方便而長期累積所有攝影畫面。
若決策會觸發設備動作,系統還需要把模型判斷與執行規則分開。模型說「有人」,可以先形成一個狀態訊號,再由確定的規則決定是否通知或停止某個流程。這樣較容易查看到底是辨識錯誤,還是動作規則設計不合適。也能讓高風險動作保留額外確認,避免單次推論直接擁有過大的影響範圍。
低延遲不等於可以省略檢查。在安全相關場景中,系統可能需要多個訊號互相驗證,或要求一段時間內結果一致才採取動作。這些設計會增加反應時間,卻可能降低誤觸。產品選擇應反映實際風險,不能把八毫秒的展示數字當成所有流程都該追求的唯一目標。
自訂授權,是企業採用前要讀的部分
2026 年 10 月 8 日查閱兩個模型倉庫,模型卡都標示使用 LFM Open License v1.0,而不是直接標示為 Apache 2.0。隨附 d1-3B 授權文件 含有商業使用限制,並定義年營收一千萬美元的門檻。超出門檻的法人商業使用,依該文件需另外取得適用授權。
這和一般讀者看到「開放模型」時的直覺可能不同。權重可以取得、程式可以執行,以及企業可以按自己的條件商業部署,是三個分開的問題。團隊應以實際下載版本的授權文件與合約為依據,也要確認基礎模型、工具與資料各自的條件。本文不把官方發布頁的廣泛宣傳文字當成無條件商用承諾。
如果組織只是做內部概念驗證,仍應先保存當時的授權版本與模型版本。後續產品擴大、營收規模改變或改採其他模型時,纔有清楚的查覈依據。這項工作不會增加推論能力,但可以避免技術測試完成後,才發現採用條件與商業計畫不一致。
Open d1 值得關注的地方,是它把多模態決策帶到可以下載與實際量測的階段。適合先試用的團隊,是已有明確分類問題與裝置限制,能自己驗證速度、準確度與授權的開發者。若任務需要開放式推理、長篇說明或沒有清楚選項,文字生成模型仍可能更合適。
常見問題
Open d1 會寫文章或完整聊天回覆嗎?
它主要回傳具型別的決策答案,適合選項、真假與評分工作。需要自然語言說明的產品,可以把它的結果交給另一個文字模型。是否要增加這一步,應看使用者需要的資訊與額外成本。
有八毫秒結果,就能直接做即時攝影機產品嗎?
仍要測量取得畫面、影像處理、推論與後續動作的整體時間。官方數字有特定硬體與工作條件,長輸入已在同一份資料中呈現更高延遲。連續運作的穩定性與最慢請求,同樣會影響實際體驗。
開放權重代表企業都能自由商用嗎?
要依模型倉庫中的授權文件確認。這兩個模型使用自訂 LFM Open License v1.0,含有商業使用條件。採用者應檢查自己的組織與用途是否符合條件,必要時向供應商取得合適授權。