hCAWN 570 萬參數模型學搬貨:成功軌跡、充電規則與配對測試揭露了什麼?

hCAWN 約五百七十四萬參數模型以成功路徑再訓練。解析格狀倉儲、手寫充電、十一月十一日配對修正與回滾,區分模擬展示、架構和實際可證明的改善。

Share
hCAWN 原作者的格狀倉庫模擬畫面,顯示貨架、充電格、碼頭與多個模型探索位置
四十份模型副本在格狀倉庫中蒐集成功路徑,供下一輪訓練使用。圖片來源:hCAWN 原作者 datatab。 圖片來源:官方原文。

hCAWN 的倉儲示範讓一個約五百七十四萬參數的小模型,從自己成功搬貨的路徑中再學一次。模型能在一般處理器上執行,重點是把探索結果變成下一輪教材。

原作者 datatab 於 2026 年 11 月 10 日公開格狀倉庫實驗,讓四十份模型副本探索取貨與送回碼頭的路徑,留下成功案例,剪掉繞圈,再用它們訓練下一代。

這個流程仍有人工安排:模型知道目標位置,充電由手寫規則接管,訓練需要圖形處理器。它展示的是特定環境中的反覆學習,並非一套沒有規則的通用自我改造系統。

十一月十一日的修正尤其值得注意:每代改用相同箱子位置測試,避免模型只是抽到容易路線,就被誤認為進步。

我會先看教材怎麼篩選、分數怎麼比較,以及變差時如何回復,再判斷小模型是否真的適合特定環境。參數少只是起點,穩定量測才讓改善有意義。

從取貨路徑與手寫充電的分工開始,較容易看懂這個實驗學會了什麼,又還沒證明什麼。

小模型學的是繞過貨架,環境已告訴它目標在哪

倉庫把工作壓成一次選一個移動方向,讓小模型能從簡短文字狀態做判斷。

模擬倉庫由可行走格、貨架、碼頭和充電位置組成。模型每次讀取簡短狀態後選一個方向,環境執行這一步,再把新的狀態交回去,形成可反覆量測的任務。

狀態已提供模型是否帶著箱子、目前位置、目標座標與方向,還有周圍五乘五範圍的牆壁、走過的位置及上一個動作。因此,它需要學的是路線,不是從完全未知的畫面中發現貨物。

這個界線會影響難度。如果環境沒有告訴模型箱子在哪,還要另處理探索、感知和位置估計。目前的示範則把那些問題先固定,集中觀察路徑學習。

模型使用原始位元組讀寫,可以理解為直接以較基本的文字單位處理輸入輸出。它有六層、每層寬度一百二十八,其中兩層注意力、四層 CAWN,屬混合架構。

注意力會對照前面的內容,CAWN 則用固定大小狀態跨區塊傳遞資訊,兩種方式共同處理移動判斷。

作者列出的整數八位元權重約六 MB,四位元打包約三點九 MB。這些數字描述保存模型的大小,執行還需要程式與工作記憶體,不能把檔案大小當成整台設備的需求。

小模型的好處,是在明確環境裡容易反覆試驗。但如果任務變成實體倉儲,還會加入感測、安全、機械動作和多人協調,格狀模擬的結果不能直接替那些環節背書。

CAWN 架構本身來自作者四月的論文,這次新的事件是十一月的倉庫自訓練示範與評估修正。把架構日期和應用實驗分開,才能理解哪些是已有方法,哪些是這一輪才公開的工作。

固定狀態的設計試著減少序列變長時的記憶體負擔。不過,這個混合模型還有兩層注意力,不能只憑其中一類層的設計,就宣布整個系統對任意長度都沒有額外成本。

對想在受限設備試驗的人,較合適的問題是指定狀態長度下能否準時回應,以及重新訓練的投入是否划算。模型檔案小,只有在整段任務也跑得穩時才會形成實用優勢。

任務被明確限定後,小模型才有可重複蒐集與比較的學習材料。

hCAWN 原作者的格狀倉庫模擬畫面,顯示貨架、充電格、碼頭與多個模型探索位置
四十份模型副本在格狀倉庫中蒐集成功路徑,供下一輪訓練使用。圖片來源:hCAWN 原作者 datatab。 圖片來源:官方原文。

成功路徑變教材,和隨機亂走有什麼不同

探索會混入隨機移動,但只有真正完成交付的路徑能進入訓練。

每輪先讓四十份模型副本嘗試完成交付,並混入不同程度的隨機移動。隨機性提供探索機會,避免所有副本都只重複同一條已知路線。

環境只保留真正完成交付的軌跡,再剪掉其中來回繞圈的部分。失敗路徑不會因為文字看似合理就變成教材,所以成功條件扮演了篩選器的角色。

之後模型從這些篩過的狀態與動作繼續訓練,學習在相似位置選出成功路徑使用過的方向。最近三代的教材會合併,減少只盯著最新一輪少量經驗的問題。

這種方法更接近模仿自己成功的紀錄。作者也明確說,路徑先蒐集完成,訓練時固定使用,並不是一邊直接對整條路徑的獎勵求梯度的策略梯度方法。

沒有外部老師替每一步標答案,不代表沒有人工判準。什麼算成功、哪些繞圈要剪掉、哪些動作不能納入,都是系統設計的一部分,也會決定模型最後學到什麼。

如果把方法借到其他任務,首先需要的是可信的完成檢查。例如檔案是否真的產生、計算是否通過固定測試,必須由環境確認,否則模型可能只學會產出容易被篩選器接受的表面結果。

因此,教材品質取決於成功條件與資料清理,而不是只看模型產生了多少步。

充電反射是手寫規則,也影響最終交付分數

模型負責路線選擇,電池安排則由外部規則處理。

電池規則在這裡是外部反射,也就是條件符合時由程式直接接管。模型沒有帶箱子才可充電,因此路線選擇和何時補充電力,會共同影響交付數。

早期規則看見電量低於距充電點約十六步,就轉向充電,卻使遠處箱子一直拿不到。這顯示即使模型的路線變好,外部規則也可能把整個系統限制在不好的工作循環。

修正後會估算下一次交付的完整成本:從目前位置到箱子、帶回碼頭,再走向充電點,另外保留四步餘裕。若一顆滿電池仍不夠,先選適合開始任務的充電位置。

作者以三十六項任務比較手寫規則,在較大距離設定下,完美路徑機器人的平均交付從十點三次升到十三點九次。這個改善屬充電策略測試,不能記成學習模型本身的增益。

探索副本蒐集教材時則沒有電池,因為目的是取得路徑經驗,不讓充電占走探索步數。外部接管的反射步驟也不會被當成模型自己的動作加入教材。

因此,訓練環境和最終單機測試有刻意安排的差異。理解這些差異後,才能把結果歸回正確環節,避免看見整體交付增加,就假設每一種管理能力都由模型學會。

把規則和模型的貢獻分開,才知道下一次改善應調整學習還是環境設計。

十一月十一日改成配對測試,進步才不混入抽題運氣

相同模型面對不同箱子位置,分數本來就可能大幅變動。

原始版本每代重新抽箱子位置,完美機器人的基準也重新計算。這讓一次分數下降同時混入模型變差和題目變難,回滾規則就可能因抽題噪聲誤判。

十一月十一日更新後,每個倉庫固定三組箱子位置,讓各代模型和完美基準都面對相同配置。這種配對方式使前後差異較能歸因於模型,而不是環境剛好變容易。

單次測試最多四百步,分數是模型平均交付數除以完美機器人的平均交付數,再換成百分比,最高記為百分之百。它衡量的是這項搬貨任務的相對產出,並非一般語言回答準確率。

只有最近三代分數的平均達到完美基準七成,才算通過當前要求。一代偶然高分不夠,因為作者希望看到能維持的表現,而非只挑最好的一次。

隨著學習進展,箱子可出現的區域會擴大,難度分布因而改變。更新後會在新的範圍重新建立比較,直到箱子可出現在整個倉庫,才有條件宣告該布局學會。

此外,最後的二十回合評估原本就使用相同箱子順序。這次修正的是每代過程的比較,不能把早先最終測試也說成全部未配對,兩層證據需要各自保留。

固定案例並在難度擴大後重新比較,才能讓回滾與過關依據指向真正的變化。

回滾能控制退步,仍未證明通用自我改善

作者保存最佳版本,並把明顯退步的模型與教材一起撤回。

如果新一代比保存的最佳分數低十五個百分點或更多,作者會撤回該版本,也丟掉造成這次退步的教材。接著從最佳版本重新探索,並降低學習率繼續訓練。

學習率可以理解為每次更新模型時調整的幅度。減小它可能讓改動更溫和,但是否能改善下一輪,仍要回到固定案例觀察,不能只靠參數名稱判斷。

保存最佳版本的意義,是避免錯誤被反覆放大。若退步模型繼續製造較差教材,再拿它訓練下一代,整個循環就可能朝錯誤方向累積。

不過,這個倉庫已有傳統最短路徑程式能給出完美答案。該程式用作評分基準而非教材,示範並沒有證明小模型比成熟演算法更值得部署。

每個新布局也從相同、未見過倉庫的基礎檢查點開始,再針對該環境訓練。這展示的是便宜地適應特定布局,不是單一模型已經學會所有倉庫,或能自行發明新的架構。

作者把下一步放在沒有廉價完美解、卻仍能自動核對結果的問題。那會更接近驗證這類循環是否有實用優勢,但目前仍屬後續方向,不能提前當成已完成成果。

這支持的是受限任務中的迭代流程,能否轉到沒有廉價完美解的問題仍待後續研究。

hCAWN 倉儲實驗常見問題與可借用的方法

閱讀這類小模型展示時,應把架構、訓練迴圈與展示素材的證據分開。

hCAWN 全程只需要 CPU 嗎?

作者說推論可以在一般處理器執行,訓練則使用圖形處理器。推論是拿現有模型做選擇,訓練是更新權重,兩種設備需求需要分開描述。

網頁上四十個位置代表四十台機器人嗎?

它們是模擬世界中的模型副本,目的是同時取得不同探索路徑。這不是實體機器人隊伍協調倉庫,也沒有提供真實搬運設備的安全或吞吐量證據。

原文動畫就是訓練完成的表現嗎?

原作者特別註明,單機測試動畫是在建頁時用替身策略錄製,用來解釋測試樣貌,並非訓練模型。看展示時應保留這個說明,不能把動畫直接當成模型能力驗證。

可以從這個案例學到什麼?

最可移用的是先定義成功、固定比較條件,再保存能回復的版本。先讓改動可以被可靠量測,才能知道多一輪自訓練究竟帶來進步還是噪聲。

若自己的問題已有便宜且可靠的固定演算法,可以先用它作為基準。只有當模型帶來額外可用性、成本或適應效果,而且經相同任務驗證後,才有理由把學習流程放進正式工作。

我會把這個示範看成一份迭代實驗教材,特別是作者公開修正評測的過程。承認一次分數可能混入抽題差異,再改成配對測試,對建立可信的自動改良流程,比單看贏了幾輪更有參考價值。

先學會如何建立可比較的迭代,再考慮模型大小,較容易把研究方法用到自己的任務。

延伸閱讀:Simons AI 數學計畫啟動:攜手 OpenAI、Anthropic,1,500 萬美元資源如何使用?

延伸閱讀:Hugging Face Decision Models 整合:AI 分類不用先寫一段話,機率又能信多少?

原始資料來源

Read more