Mainplane 作者分享追加式工作紀錄:AI 代理換對話後,如何找回原始證據?

Mainplane 作者分享一個工作階段一份追加式檔案的設計。解析原始紀錄檢索、提示快取、跨機器接續與工作機權限,分清保存歷史和真正恢復工作的差別。

Share
Mainplane 作者說明追加式工作階段檔案的官方影片畫面
Mainplane 作者分享工作階段保存設計的影片畫面。 圖片來源:官方原文。

長時間工作的 AI 代理常在對話太長時忘掉早先細節。Mainplane 作者 11 月 15 日分享的設計,把每次工作階段保存成只向後追加的檔案,讓後續代理回頭查原始紀錄。

只向後追加,代表新結果接在檔案末端,舊紀錄不直接改寫。這樣做能保留工具輸出和設定變化,也讓每一步的來由較容易被追查。

但保存完整紀錄不等於模型會同時記住所有內容。新階段仍要找出相關片段,才能把缺少的背景帶回正在處理的問題。

作者也把這種設計連到提示快取,也就是模型供應商重用相同輸入前段的機制。不過實際命中率仍受供應商、保存時間和請求內容影響,不能只憑檔案格式保證節費。

需要跨電腦接續任務、又願意管理工作紀錄權限的開發者,適合研究這種做法。若環境存有不可交給代理的憑證,就應先隔開工作機器與資料。

要判斷這份設計能解決多少記憶問題,得先看檔案究竟留下哪些內容。

Mainplane 如何把一次工作寫成追加式紀錄?

公開程式碼把工作階段存成一個狀態檔,訊息與工具結果依序留下。這讓代理做過的事可以回頭檢查,而不必完全依賴最後一句「已完成」的摘要。

在 Mainplane 的狀態檔實作裡,每筆資料先有描述種類與長度的標頭,再接實際內容。種類包括訊息、設定、工具呼叫、執行結果與錯誤,因此檔案能保留工作推進的順序。

只向後追加的意思,是新的內容接在末端。當設定改變,也可以留下新設定紀錄,而不需要把早先發生的事情整段重寫,讓前後差異比較容易被辨認。

這種設計先解決的是歷史保存。它不會因為把錯誤寫進檔案,就自動讓錯誤變正確,價值是後續可以知道哪一步失敗、後來如何修正,而不是只看到一份被整理過的成功故事。

檔案如何對應工作階段?

工作階段程式碼以識別碼命名狀態檔,並從檔案目錄列出既有階段。這讓檔案本身成為一種登錄方式,不必另外依靠一份與歷史可能不同步的對話清單。

實作也區分建立、開啟與複製工作階段。複製可保留指定位置之前的紀錄,用來分支或回到先前位置,這提供了比較不同嘗試的基礎,但新分支之後仍是另一段歷史。

工作訊息還能帶有用來辨認重送的識別值,讓重複送入同一則訊息時有機會避免再追加一次。但訊息層的去重,不代表所有外部工具操作也具有相同保證,兩層結果仍須分別查核。

保存檔案也需要備份和存取控制。追加式是程式組織紀錄的方式,團隊仍要安排誰可以讀寫檔案、如何保留原始版本,才能讓跨階段查找有可信的資料基礎。

對開發者而言,這有助於分開回答兩個問題:代理曾經讀到什麼,以及它後來根據什麼繼續工作。若只保存對話畫面,工具的完整輸出和設定變化可能很難一起追查。

保留歷史之後,還需要決定新工作如何取回所需內容。否則雖然檔案都在,模型仍可能不知道應該查哪一段。

Mainplane 作者說明追加式工作階段檔案的官方影片畫面
Mainplane 作者分享工作階段保存設計的影片畫面。 圖片來源:官方原文。
Mainplane 作者分享工作階段保存設計的影片畫面。 來源:官方原始貼文。

查原始紀錄與把整段對話摘要差在哪裡?

原始檢索保留證據細節,但查找是否完整仍需驗證。摘要則先替後續工作挑好重點,兩種方式的差別,在於誰決定什麼資訊值得保留。

摘要的優點是短,新的對話可以很快取得背景。但如果當時沒有預料到後續會需要某個錯誤訊息、檔案路徑或數字,那個細節可能已經被省略。

這套設計的思路是保留完整紀錄,再讓後續階段依當下問題搜尋。原作者 11 月 15 日的分享把一個代理描述為多個工作階段的串連,將單次上下文長度和長期歷史分開。

上下文是模型處理這一輪請求時實際看到的資料。檔案裡有一百頁紀錄,並不代表模型每次都讀入一百頁,必須透過工具找出相關片段,再放回當前請求。

找回原文後,還要檢查哪些線索?

例如代理要修復先前測試失敗,可以先找到完整錯誤訊息,再查當時的程式版本與執行條件。若只抓到錯誤中的幾個字,卻漏掉版本背景,仍可能把舊問題套在新程式上。

因此檢索結果需要保留出處。工作階段識別碼、紀錄順序與實際檔案位置,能協助後續代理知道這份資訊來自哪次嘗試,而不是把多次互相矛盾的結果混成一份結論。

這種方式也有代價,代理需要花時間搜尋與讀取。若查找過多無關紀錄,未必比一份整理良好的摘要更有效率,所以導入時應測真實問題,而不是只看保存了多少內容。

記錄保存和提示快取也必須分開衡量。前者讓資料可取回,後者影響模型供應商是否能少處理一部分重複輸入,兩者並非同一種記憶。

延伸閱讀:DSPy 3.5 變輕了,舊程式為何仍要重測?XML、模型路由與對話記憶升級解析

追加檔案能保證命中提示快取嗎?

追加歷史有助穩定既有內容,但快取仍由實際模型請求與供應商規則決定。原作者把避免重寫歷史和保留快取連在一起,這是一種架構取向,不能直接推論所有模型都能獲得相同節費。

提示快取可以理解成,供應商暫存已處理過的輸入前段。當後續請求有相同內容,系統可能重用部分工作,減少重新處理,但保存期限與計算方式仍依服務而異。

只要請求前段改動、快取過期,或換到不持有快取的供應商,檔案雖然沒有重寫,實際效果仍可能不同。因此驗收要看模型回報的使用量,不能只看本機檔案是否追加。

公開的紀錄格式也把一般輸入、快取讀取與快取寫入分開保存。這些欄位有助於檢查請求成本的來源,但比較時仍要確認每家供應商對使用量的定義。

新工作階段不等於舊快取永久延續

作者說明,接續或壓縮之後應視為新階段,另開檔案,避免單一檔案不斷變大。這使長期代理與單次對話分開管理,而不是靠一份無限增長的輸入維持所有工作。

從使用者角度看,新階段要能指向舊紀錄,才能在需要時補背景。它不必事先把所有舊內容重新送進模型,但也需要可用的檢索工具與正確的資料權限。

若要測是否省錢,可以挑一項固定任務,保留相同模型、資料與完成標準,比較取得所需證據的總用量。單次快取命中很好看,卻可能被額外查找的成本抵消。

即使快取能重用,跨機器接續也仍有環境問題。一份完整對話紀錄,和一套能執行相同工作的電腦環境,仍是不同交付。

複製紀錄後,工作環境會一起恢復嗎?

工作紀錄不包含所有外部服務狀態,重新執行前仍要查實際結果。作者用「檔案和函式」形容架構的簡單性,但操作機器上的程式版本、檔案與權限,也會影響工作能否接續。

例如紀錄裡寫著已建立一份雲端文件,複製狀態檔不會把那份文件也搬到新帳戶。後續代理需要找到原文件或取得可用的連線,才能確認是否已完成。

同樣地,紀錄裡保存一個檔案路徑,新工作機不一定有相同目錄。若要跨機器恢復,應把需要的檔案、工作目錄與工具版本一起盤點,否則容易把「找回對話」誤當成「恢復環境」。

產品也包含連接多部電腦與共用檔案的能力。官方文件說明,共用磁碟需要相容的 Linux 工作機服務,因此只在一台電腦上啟用代理,和建立跨裝置共享環境,有不同的設定條件。

重試要先確認外部操作有沒有發生

最需要留意的是中斷前已送出的變更。例如代理在紀錄寫完前已經送出一項外部操作,新階段只靠最後一筆紀錄,可能無法知道外部系統是否接受。

這時應先查實際狀態,再決定是否重試。追加紀錄有助於保存證據,卻不能自動替外部系統提供交易保證,任務設計仍要避免一個不確定的結果被重複執行。

對程式工作來說,也應先查儲存庫與測試狀態。紀錄顯示某次測試成功,只證明當時的版本通過,不能替後來被改過的程式保證結果。

而這些紀錄可能帶有機密,保存權限因此和可恢復性同樣重要。資料越完整,後續接手越方便,也代表需要更清楚的存取範圍。

先在隔離工作機驗證可追溯性

先挑不涉及重要憑證的任務,檢查新階段能否找回指定證據。可以事先選一個錯誤訊息或需求變更,讓後續代理指出原始位置,再比較它的回答是否忠於紀錄。

這個測試不需要先安排大量自動化。重點是故意跨過一個工作階段,確認新的階段知道去哪裡找資料,而不是靠研究者在提示裡重新提供所有答案。

官方 隱私與安全文件明說,代理對指定工作機具有完整控制,執行時沒有每個命令逐一確認的步驟。工作機的邊界因此比一句「請小心操作」更實際。

若工作機上有瀏覽器資料、雲端憑證或私人檔案,完整控制可能包含這些內容。適合先用可清除的工作環境,讓可交給代理的資料和其他重要內容分開。

自行架設也不等於資料完全留在本地。官方指出,模型供應商會看到請求上下文,預設快速通道的加密在 Cloudflare 結束,因此它能看到連接端與服務之間的部分流量。企業應依自己的資料需求選擇連線方式。

資料分享預設關閉,是另一個獨立選項。這不會消除模型服務與網路傳輸本來需要處理的資料,所以驗收時應分開記錄模型、連線與分享設定,而不是只檢查一個隱私開關。

Mainplane 這次分享值得研究的,是讓歷史可追溯、讓工作階段有明確邊界。通過資料與環境驗收後,再考慮擴大到較長的工作,會比把追加檔案當成萬用長期記憶更有依據。

延伸閱讀:Pydantic AI 2.68 統一人工問答與核准:代理暫停後,怎麼接回同一項工具工作?

Mainplane 工作紀錄常見問題

這是 Mainplane 在十一月十五日首次發布嗎?

本篇報導的是作者當天的架構分享。產品已有先前公開紀錄,不能把新的設計解說寫成同一天才推出整個產品。

追加式檔案就是永遠不會忘記嗎?

它保留原始資料,模型仍須找到並讀入相關內容。檢索不完整、環境不同或資料權限不足,都可能影響接續結果。

複製工作紀錄就能在另一台電腦完整重跑嗎?

還要具備對應檔案、工具、權限與外部狀態。紀錄能幫助判斷做過什麼,但不會自動複製所有工作條件。

這份設計保證節省多少模型費用?

作者的追加設計有利於穩定歷史,實際費用仍要看供應商快取與檢索用量。本篇沒有自行執行成本評測,也沒有可套用到所有模型的節費比例。

初次研究應先看什麼?

先讀官方狀態檔實作與安全文件,再用隔離環境測一項可追溯任務。確認能找回原始證據和實際工作結果後,再逐步增加自動化範圍。

原始資料來源