Drex 技術報告公開,決策模型如何學會可靠的機率與選項順序?

Drex 首次公開訓練報告,解析已驗證資料、RLAF 教師回饋、準確率與選項順序的一致性,以及高機率仍可能過度自信的校準界線。

Share
Drex首次公開技術報告的官方PDF第一頁,列題名、研究團隊與摘要
Drex技術報告於十一月五日首次上傳,封面標示的十月是稿件月份,不能改讀成模型本週重新推出。 圖片來源:官方原文。

AI回傳很高的選項機率,不保證換一組資料後仍同樣可靠。如果選項只換順序,最可能的答案也改變,系統就更難信任這個數字。

Drex技術報告把這些問題放進訓練方法裡。Nace在2026年11月6日介紹首次公開的報告,論文於前一天上傳,披露不同架構的資料與後訓練配方。

這次新事件是研究披露,已推出的Drex型號是受測對象,並非又一次新模型上線。

報告把教師的機率判斷與可驗證答案結合,希望模型不只選對,也能學習什麼時候應該保留不確定。

對照實驗另檢查選項順序,顯示提高答對率和減少答案翻轉,是可以分開觀察的收益,不能用一個總分概括。

我認為這份材料適合想理解快速決策模型訓練的人。它提供具體方法,也留下過度自信與跨領域校準的問題,讀者需要把兩面一起看。

從模型為何需要回傳機率開始,才能理解後訓練究竟在修正什麼。

Drex 技術報告要解決什麼決策問題?

模型要交出可供程式接續使用的選項分布,因此答對與表達不確定,都需要成為學習目標。

一般聊天模型逐字寫答案,決策模型則直接替候選分配機率。例如系統要決定下一步使用哪個工具,可以讀取選項分數,不必先解析一段自然語言。

但最高分只說明它偏向哪個答案,還沒有說明這份信心是否可靠。如果許多標成九成把握的答案,最後只答對六成,程式便可能在錯誤信心下放行工作。

校準就是檢查這種把握與實際結果是否對得上。它和準確率不同,一個模型即使多答對幾題,仍可能把其餘錯誤說得過於確定。

報告涵蓋四種架構,包括較早的八十億參數模型、九十億的v1.5,以及總參數三百五十億、每次啟動約三十億的v2,另有二百七十億的Max。

前幾種採指標式輸出,可以把情境先編碼,再讓多個問題讀取共用內容。Max的讀取方式不同,每個問題仍要重新處理相應輸入,不能概括成所有型號都只算一次。

這些差異解釋了為何報告要分開列配方。架構如何讀資料,會決定後訓練能怎麼調整機率,並非只替所有模型接上同一個獎勵公式。

先有可檢查的資料與答案,訓練才有依據修正這些分布。

Drex首次公開技術報告的官方PDF第一頁,列題名、研究團隊與摘要
Drex技術報告於十一月五日首次上傳,封面標示的十月是稿件月份,不能改讀成模型本週重新推出。 圖片來源:官方原文。

一百一十五萬筆資料,如何建立可檢查的答案?

訓練結合教師資料、開放資料與可執行驗證的例子,再用不同目標處理選擇題與有順序的評分。

報告披露v1.5的文字訓練集合有1,150,460筆紀錄,涵蓋十一個領域。這是該版本文字資料的分母,視覺訓練另有蒐集,不能都算進這個數字。

大部分來自教師模型整理的資料,另外包含開放資料與程序產生的例子。所謂程序產生,是讓程式、遊戲引擎等系統建立題目與結果,使某些答案可以實際驗證。

這和只請另一個模型宣稱答案正確不同。資料可能使用既有標準答案、程式執行結果或引擎狀態,替訓練提供較明確的對照。

監督式微調先教模型完成這些任務,也就是根據已知例子,調整它對各選項的預測。當選擇題至少有三個候選,訓練時會更換排列,避免固定位置變成答案線索。

團隊另外加入一致性要求,比較選項換順序或情境資訊重新排列後,模型的機率分布是否仍相近。這不只是多做幾題,而是要求同一意思的不同呈現方式彼此對得上。

有序評分則需要保留等級距離。把「低、中、高」的低誤判成高,和只偏到中,程度不同,所以不能完全當作三個互不相關的類別處理。

報告使用考慮累積分布差距的訓練目標,讓預測錯到多遠也影響調整。這是數值排序上的設計,不代表每一種業務等級都已有相同合理的間距。

資料還會加入干擾選項或「以上皆非」等安排,讓模型有機會學習候選全不適合的情況,而不是每次都被迫在不正確的內容中硬選一個。

不過,單一標準答案可能把原本有不確定性的情況教得過於尖銳。下一階段因此嘗試保留教師對其他答案的相對判斷。

延伸閱讀:Amos 1 開放權重決策模型:直接回傳選項與機率,適合哪些 AI 工作?

RLAF 如何把教師意見和已知結果放在一起?

這套後訓練把教師分布與已驗證結果合併,但指標式模型和Max的調整方式不同,不能只看名稱就認定它們做了相同運算。

RLAF是從調整後回饋學習的簡稱。對指標式模型而言,教師先替候選給出機率,再根據已驗證答案修正,形成帶有不確定性的目標分布。

例如,標準答案可以指出哪個候選應受到支持,教師分布則保留其他候選相對接近或不接近的資訊。實際權重由訓練配方決定,並非平均兩個模型的文字答案。

目標要求模型把機率放在合理位置。選擇題使用機率評分規則,有序評分則使用前述考慮距離的方式,讓表達信心本身也影響學習結果。

在報告披露的訓練安排中,指標式模型可以直接對這個確定的目標計算梯度。梯度是告訴參數往哪個方向調整的訊號,不需要每次先隨機抽出一個完整答案才能學習。

團隊試過依隨機取樣回報的另一種方法,沒有得到更好結果。因此,名稱雖含強化學習,也不能推論它在使用者每次作答後,都會即時連線自我更新。

Max為何另用生成式教師?

Max使用同樣Qwen3.8-27B底座的高推理生成模型提供評判,再混入已驗證結果。教師能寫出較長的思考,但不因這件事就必然比學生更正確,也不是一個參數更大的模型。

配方以0.2權重納入可驗證結果,以0.05權重納入教師回饋,另外要求新分布不要偏離微調後模型太遠。沒有已驗證答案時,前一項權重為零。

這種限制能讓後訓練有明確起點,而非任意把機率推向某一端。訓練另使用低秩參數調整,也就是在較小的可調整參數空間裡改變行為。

教師仍可能和標準答案衝突。報告指出,這種設計理論上存在教師意見蓋過驗證結果的風險,但沒有測出發生頻率,所以不能把可能風險寫成已確認的主要錯誤來源。

同樣地,模型可能學到教師的信心偏差,但這還需要對照驗證。報告能直接支持的收益,應回到同底座、同資料的實驗結果。

對照實驗如何拆開準確率與排序穩定?

報告顯示後訓練能提高分數,而一致性訓練又能減少換順序造成的翻轉,兩者不是同一個指標。

Max的控制實驗中,監督式微調後,公開綜合分數64.9,加入RLAF後為66.9。相應準確率從86.5%到88.0%,校準誤差由4.4到3.5。

校準誤差概括信心與答對情況的落差,較低代表在這組資料上更接近。它不是「錯誤答案只剩3.5%」,也不能從中推出每個領域都已同樣可靠。

這張表的66.9也和加入視覺階段後的66.8不同,不能再混入十月公開榜單的67.52,拼成同一次實驗連續進步的紀錄。

另一組固定都做RLAF,比較先前有無一致性訓練。綜合分數為66.9對66.4,差距不大,但換選項順序後翻轉最可能答案的比例為4.2%對6.3%。

翻轉測試共1,591個決策,同一題用不同排列重問。這個分母支持的是排列穩定性,並非把一千多個不同真實應用都測過。

在候選至少六個的子集裡,只有173題,翻轉比例為13.0%對17.8%。報告認為樣本不足以支持統計顯著,不能把這組差距說成已確定對所有大選項集合有效。

公開評測使用140,620筆請求,其中140,178筆由維護者保留分析。部分請求彼此相關,因此研究在重抽樣時保留相關單位,而非假設每個答案都完全獨立。

計算綜合分數信賴區間時,重抽樣單位是基準集合,也不同於把所有題目混在一起抽。這會影響誤差範圍的意思,讀者不能只看小數點後差幾分。

報告另做多項比較,沒有全部調整多重檢定。因此,接近慣用顯著門檻的結果較適合作為線索,和控制實驗中可直接觀察的分數變化應分開讀。

機率校準仍有哪些不能跳過的界線?

模型在新領域仍可能過度自信,研究找到的校準參數也不是可以搬到所有資料的通用答案。

報告指出,Max在部分非語言領域的信心,比實際結果高約五到九個百分點。模型整體表現好,仍可能在某類問題上,把風險說得太低。

一種調整方式是改變溫度,讓分布變平或變尖。它不改變最高選項的排序,卻會改變各選項機率,因此能在保留選擇的同時調整信心。

部署版本的相關值為1.009,報告在保留的Decision Index資料上擬合則約1.35。兩者不同,顯示資料分布會影響合適的校準程度,不能把1.35直接寫成所有場景最佳值。

較小的DecisionBench v4則有1,071個決策、三十五項任務與十一類,其中949個純文字、62個同時有文字與影像、60個影像問題,另有自己的評估範圍。

校準比較也只在原生回傳機率的模型間進行。聊天模型自己用文字說「我有九成把握」,和專門訓練的機率輸出不同,報告沒有把兩者直接當成同一種誤差測量。

訓練資料去重使用精確匹配與文字片段檢查,但仍可能漏掉改寫內容,教師本身也可能繼承先前看過的資料。這些方法降低部分重疊,沒有證明所有測試完全無污染。

報告也承認,封閉知識題仍落後較強的大型模型,單次快速決策無法代替所有長推理與工具工作。若題目本身需要查新資料,快速選擇並不會自動補出缺少的知識。

最後,文中的十月延遲測量包含網路等待,描述的是當時測試地點與服務的整體回應。讀取這張表時應保留日期和網路邊界,本次新披露的訓練方法,並未替各地部署另作現行速度保證。

延伸閱讀:決策模型怎麼做 LLM 評測?Hamel Husain 教你調門檻、比成本、讀分數

Drex 技術報告常見問題 FAQ

這次有推出新的Drex Max嗎?

本次是首次公開技術報告,揭露已推出型號的訓練與評測。論文封面十月是稿件月份,首次上傳在十一月五日,官方六日介紹,並非舊型號再次首發。

選項換順序後更穩,就一定答對嗎?

穩定表示模型較少因排列改變最可能答案,仍可能穩定地選錯。報告把準確率、排列翻轉與校準分開評估,正是因為三者回答不同問題。

用較高溫度校準,會讓最高答案變成另一個嗎?

這裡的溫度調整讓機率分布變平或變尖,不改變原本最高選項的排序。它能調整信心,卻不能單靠這一步把答錯的題目改成答對。

結論

Drex新報告的價值,是把快速選擇背後的資料、教師回饋與排序一致性拆成可檢查的訓練問題。高分之外,信心如何學習也成為證據的一部分。

若你正比較決策模型,可以在同一批資料保留選項排列測試,另看準確率與信心落差,再決定門檻。這會比只用一個最高總分,還更接近系統真正需要的可靠判斷。

資料來源