onPanda 是什麼?只改第一個錯誤 Token,AI 資料標註時間少 52%

onPanda 讓標註員修正第一個錯誤 token,再由模型續寫。本文檢查 52% 時間縮短、on-policy fidelity、Panda-CVL 與技術限制。

Share
onPanda 找到第一個錯誤 token 選替代並從修正 prefix 繼續生成的介面
onPanda 的 locate-correct-continue loop:只改關鍵位置,再讓同一 rollout model 續寫。 圖片來源:https://arxiv.org/html/2609.24983v1

訓練 AI 不只需要大量文字,也需要人類指出模型哪裡做錯。傳統做法通常是讓標註員把整段回答改寫完成,或從多個候選答案中排名。前者很花時間,後者只能在既有答案中挑選,難以精準指出第一個錯誤發生在哪裡。

StepFun 等研究團隊在 2026 年 9 月公開 onPanda。它把修正單位縮小到 token:標註員讀到第一個不合適的位置,點選模型原本考慮過的替代 token,或手動輸入正確文字。系統刪除後續內容,再從修正後的 prefix 繼續生成。

論文的小型受控研究顯示,onPanda 每題標註中位時間為 330 秒,傳統 post-editing 工具 POTATO 是 681 秒,減少 51.5%,摘要四捨五入為 52%。但這不是「所有資料標註都快一倍」的保證。實驗只有 3 位標註員、21 個圖片描述 prompts,而且使用單一 rollout model。

Token 是什麼?為什麼只改第一個錯誤?

Token 是模型處理文字的基本片段,可能是一個字、半個詞、標點或一小段英文。模型每產生一個 token,背後都會對許多候選計算機率,再從中選出下一個片段。

一段回答前面出錯,後面往往會沿著錯誤前提繼續寫。例如把圖片中的「狗」看成「貓」,後面可能接著描述貓的花色與動作。若人類只在文章完成後 post-edit,就要逐句修掉連鎖錯誤。

onPanda 在第一個錯誤出現時改變方向。當「貓」被換成「狗」,模型從正確 prefix 重新續寫,後面的描述也可能自然恢復。這就是 locate-correct-continue:定位、修正、續寫。

onPanda 的操作流程

標註員先讀模型生成內容。滑鼠移到某個 token,可看到 top-k alternative tokens 與 probability。若候選中有正確答案,就直接點選。若都不合適,也能 free-form edit。官方 GitHub README 提供了完整操作 GIF,但這份 Ghost 草稿改用較小的官方論文靜態圖,以避免大型動態檔在 CMS 媒體處理階段逾時。

修正後,系統截斷該位置之後的 tokens,要求同一 rollout model 從新的 assistant-message prefix 繼續生成。標註員再往下閱讀,遇到下一個錯誤就重複一次,直到整段回答符合品質標準。

這套 UI 也能處理 reasoning、tool calls、圖片、音訊與影片輸入。它可以連接 MCP servers 與 Claude Code、Codex、OpenCode 等 harness,讓 corrected tool call 真正執行後,再把新 observation 交回模型繼續走 agent trajectory。

為什麼研究特別強調 on-policy?

On-policy data 可簡單理解為「很接近目前這個模型自己會產生的資料」。如果人類整段重寫,文字風格、句型和內容分布可能離模型原本的 sampling distribution 很遠。

對 SFT 而言,模型需要模仿 qualified response。對 preference learning 而言,系統需要知道哪個分支較好。onPanda 只在少數關鍵點介入,其餘 tokens 仍由 rollout model 產生,因此希望保留更多 on-policy fidelity。

每次 correction 也留下精確位置。錯誤 token 與替代 token 天然形成 positive-negative pair,修正前後的分支可形成 preference data,最後 qualified response 則可成為 SFT target。同一次標註不只得到一份完成答案,也得到細粒度的修正軌跡。

52% 是怎麼測出來的?

受控比較使用 3 位全職標註員與 21 個 image-description prompts,評估 onPanda、POTATO 和 Argilla。POTATO 代表 manual post-editing,Argilla 則讓標註員從四個 rollouts 中做排序與選擇。

工具 每題中位時間 每題平均時間 Qualified SFT coverage
onPanda 330 秒 515.6 秒 100%(持續修到合格)
POTATO 681 秒 711.1 秒 100%(持續修到合格)
Argilla 336 秒 684.5 秒 52%(11/21)

onPanda 中位時間比 POTATO 少 51.5%,平均時間則少 27.5%。它與 Argilla 的中位時間接近,但 Argilla 的平均值高很多,反映較難 prompts 上閱讀四篇長回答造成 long tail。

品質方面,論文報告 onPanda 的 LLM-judged pairwise win rate 為 66.7%。另有匿名人工小型比較,onPanda 對 POTATO 的偏好率為 54.8%。前者仍依賴 LLM-as-a-Judge,不能當成大規模人類共識。

資料真的更接近模型分布嗎?

研究使用 perplexity,簡稱 PPL,觀察修正後文字對 rollout model 來說有多自然。Resampling baseline 是 1.171。onPanda 為 1.181,相對增加 0.86%,落在每題 resampling 約正負 2.8% 的波動內。

POTATO 的 PPL 為 1.596,相對增加 36.31%。這支持「整段人工改寫更容易離開模型分布」的說法,但 PPL 接近不等於內容正確,也不等於訓練後一定更有效。

在 production snapshot 中,qualified responses 的 97.0% tokens 由模型直接生成,2.1% 從 candidates 選出,只有 0.9% 由標註員手動輸入。這能證明 human intervention 稀疏,尚不能證明這些 correction signals 已改善下一代模型。

標註員的工作負擔有降低嗎?

3 位標註員填寫改編版 NASA-TLX,以 0 到 10 評估六種工作負荷,分數越低越輕。onPanda 是 3.1,Argilla 5.4,POTATO 6.8。

研究中的回饋指出,onPanda 會立即顯示進度,而且 probability shading 能協助先檢查低機率 token。相較之下,排名工具要求標註員同時記住數篇長回答,更消耗工作記憶。

這項結果仍受 UI 設計影響。研究比較的是完整工具工作流,不能把所有差異都歸因於 token-level correction 這個概念。

Agent trajectory 為什麼也能標?

一般文字修正只要重新生成 suffix。Agent 執行 tool call 時,修正會改變外部環境。onPanda 可把 harness 或 tools 透過 MCP 接入,讓修正後的工具呼叫實際執行,再記錄新的 observation 與後續 actions。

例如 agent 選錯檔案,標註員可以修正 tool call 裡的路徑。系統不沿用錯誤操作後的畫面,而是從修正分支重新執行,建立一條可追溯 trajectory tree。

onPanda 修正 AI Agent tool call 後重新執行環境並延續 trajectory 的流程
Agent trajectory 中,修正 tool call 後必須重新取得環境 observation,不能沿用錯誤分支的結果。 圖片來源:onPanda/StepFun。

論文列出 production deployment 的 1,257 個 agentic sessions,但沒有 controlled agent study。這能證明系統具備使用與部署紀錄,不能證明 agent 任務標註也固定省 52%。

Panda-CVL 提供了什麼?

研究團隊另釋出 Panda-CVL,這是以中文為主的 vision-language token correction dataset,共 7,491 個 annotation sessions,包含 6,839 個 training sessions 與 652 個 test sessions。

Test conversations 展開後有 2,126 個 evaluation instances,其中 652 個是 final acceptable responses,1,474 個是仍需修正的 intermediate responses。模型要先判斷回答是否合格;若不合格,再找出第一個錯誤並替換。

目前 benchmark 很難。最佳 overall F1 只有 17.09%,GPT-6 的 Corr.-NG,也就是正確定位並修正不合格回答,為 15.83%。格式輸出正確不代表真的找對錯誤位置。

「第一個錯誤在哪裡」本身也帶有主觀性。Panda-MultiRef-21 讓 4 位標註員各自處理相同的 21 題,第一個修正位置完全一致的 pairwise agreement 是 30.95%,高於均勻隨機位置的 0.20%。容許前後 4 個 tokens 時,人類一致率升到 44.44%。這說明人類判斷有共同訊號,但單一 reference 仍不能代表唯一正解。

Panda-MultiRef-21 四位標註員第一個修正 token 位置的分布
四位標註員對第一個錯誤位置有共同訊號,也存在分歧;單一 correction reference 不是唯一正解。 圖片來源:onPanda/StepFun。

Panda-CVL 的論文聲明是 intended for research use only。即使 onPanda code 採 MIT License,也不能把程式授權直接延伸成資料集的商業使用權。

使用 onPanda 有哪些技術門檻?

核心互動需要模型服務的 API,也就是軟體彼此交換請求與結果的介面,提供兩種能力:從 assistant-message prefix 繼續生成,以及回傳 top-k token logprobs。若要重新計算自由編輯文字的機率,還需要 prompt_logprobs。

部分 proprietary model APIs 沒有同時提供這些能力,因此無法針對該模型收集真正 on-policy data。Open-weight models 可透過 vLLM、SGLang 等框架支援,llama.cpp 與 Ollama 能涵蓋核心互動。

不同模型的 reasoning 或 tool-call message template 也不同。接上新模型前,需要適配 response format。這是一筆一次性的 integration cost。

哪些情況不適合只靠 token correction?

onPanda 建立在 sparse-error premise:回答大致正確,只有少數位置需要人類修正。如果模型對任務理解很差,每幾個 token 就要改一次,效率與 on-policy 優勢都會快速消失,最後可能還是 free-form editing 比較實際。

On-policy 也有時效性。資料只相對 annotation-time rollout model 接近原分布。拿去訓練完全不同的模型,或模型訓練完成後的核心參數(模型權重)持續更新時,這項優勢會衰減。

最重要的是,論文沒有做 downstream training experiment。它驗證標註速度、輸出品質與 distributional properties,尚未證明 token-level supervision 會讓 fine-tuned model 在真實任務上更強。

onPanda 常見問題

onPanda 會自動修正所有錯誤嗎?

不會。核心流程仍由人類找出第一個不合適 token 並選擇替代。Panda-CVL benchmark 也顯示,現有模型自動完成定位與修正仍很困難。

少 52% 代表標註成本一定減半嗎?

不一定。52% 是 3 位標註員、21 個圖片描述 prompts、單一 rollout model 對 POTATO 中位時間的結果。其他任務、工具與錯誤密度要重新測量。

onPanda 可以產生哪些訓練資料?

最後合格回答可作 SFT data。修正前後分支可作 preference pairs,單一位置的錯誤與替代則形成 token-level correction supervision。

可以自己部署嗎?

可以。官方 GitHub 以 MIT License 開源,README 提供 Node.js 與 @on-panda/serve 的 self-hosting 方法。模型端仍需支援 prefix continuation 與 logprobs。

onPanda 和 Panda-CVL 的授權相同嗎?

不能這樣理解。onPanda code 是 MIT,論文對 Panda-CVL 的說明是 research use only。使用資料或媒體前應分別檢查其正式條款。

結語:把人類注意力放在模型第一次走錯的地方

onPanda 的想法很直覺:不要等模型寫完整篇才全面修稿,先在第一個錯誤點把方向拉回來。這能讓同一次操作同時產生 qualified response、preference pair 和位置精確的 correction signal。

小型研究的 330 秒對 681 秒、PPL 只增加 0.86%,說明這個互動方式值得擴大驗證。MIT 開源工具、線上 demo 與 Panda-CVL 也讓社群有實際材料可測。

但目前最合理的結論仍是「標註工作流更有效率」,還不是「訓練出的模型一定更強」。下一步要看更大規模、多任務、外部標註團隊的實驗,以及 token-level correction data 是否真的改善 SFT、preference optimization 與 Agent 行為。

資料來源