TencentDB Agent Memory 是什麼?把 AI 工作記憶分層,本機儲存還要注意哪些事?

TencentDB Agent Memory 用四層記憶與工具紀錄壓縮,協助 AI 延續長任務。看懂本機 SQLite、官方評測與資料回溯,判斷是否適合自己的代理工作流程。

Share
TencentDB Agent Memory 是什麼?把 AI 工作記憶分層,本機儲存還要注意哪些事?:官方素材
TencentDB Agent Memory 官方記憶分層示意圖。 圖片來源:TencentCloud 官方專案,官方原文。

每次開新對話,都要重新告訴 AI 專案背景、檔案位置與輸出格式,工作愈長,重複交代的時間就愈多。

TencentDB Agent Memory 把這些資訊整理成可回查的工作記憶,讓代理在下一次任務找到需要的線索。

代理是能呼叫工具、逐步執行任務的 AI 程式,記憶則決定它如何延續已經做過的工作。

這套開源專案受到關注,原因包含本機資料儲存,以及團隊公布的長任務評測改善。

對經常處理同一專案的人,有價值的是少講一次背景時,仍能知道 AI 依據哪一份紀錄回答。

要判斷它適不適合自己的流程,先得看它儲存什麼,又如何從整理後的摘要回到原文。

TencentDB Agent Memory 是什麼?把 AI 工作記憶分層,本機儲存還要注意哪些事?:官方素材
TencentDB Agent Memory 官方記憶分層示意圖。 圖片來源:TencentCloud 官方專案,官方原文。

TencentDB Agent Memory 如何把對話變成工作記憶?

這套系統把長期記憶分成四層,保留原始對話,再逐步整理成事實、工作情境與使用者偏好。

最底層是對話紀錄,內容最完整,也最容易累積大量雜訊。保留它的用途,是讓上層整理結果仍有原文可以查。

第二層抽出較小的事實,例如某個專案使用哪種格式,或某項決定在何時改過。小事實能單獨搜尋,避免每次翻整段對話。

第三層把相關事實整理成情境,例如一個客戶的交付流程。代理需要延續工作時,先看這個情境,再決定哪些細節必須展開。

最高一層整理較長期的偏好與背景,例如慣用語言與寫作格式。這些資訊較短,適合在新任務開始時提供方向。

官方稱這四層為對話、原子事實、情境與人物設定。人物設定在此是整理過的使用習慣,並不代表系統真的理解一個人的全部性格。

這個安排可以用專案交接來理解。接手者先讀一頁摘要,遇到疑問再看會議紀錄,必要時找回當天的完整討論。

從摘要一路回查,才能區分「曾經討論過」與「最後決定採用」。如果只留下濃縮結論,兩者很容易混在一起。

團隊在文件中強調上層結構與下層證據之間的連結。對讀者的實際意義,是記憶出錯時有機會找到整理過程的哪一步出了問題。

這仍需要應用端保留正確來源。原始對話若本來就有錯字、過期資料或未確認的推測,分成四層也不會自動使內容正確。

因此,適合放進長期記憶的是重複使用的背景與已確認規則。一次性的猜測若被當成穩定偏好,反而會影響後續很多次回答。

0:00
/4:52
官方示範影片,來源:TencentCloud 官方專案,官方原文。

工具輸出太多時,系統怎麼維持任務進度?

長任務常卡在工作紀錄佔滿可閱讀範圍,記憶系統還需要處理當下的工具輸出。

AI 能同時看到的文字有容量限制,通常稱為上下文。搜尋結果、錯誤訊息與程式內容都會佔用這個空間。

當代理連續處理很多檔案,即使最後只需要幾項結論,中間仍可能產生大量紀錄。把所有內容反覆帶入,會增加閱讀負擔與模型費用。

專案提供工具紀錄移出與符號式任務圖。完整輸出存在檔案裡,較短的任務圖留下進度、關係與查回原文的識別資訊。

任務圖使用 Mermaid,一種用文字描述流程和連線的格式。它的用途是記住哪一步依賴哪個結果,並在需要時找到完整資料。

例如代理已完成資料匯入,卻在欄位比對時遇到錯誤,任務圖可以留下失敗的位置。後續處理者再取回那次工具輸出,不必重讀所有成功紀錄。

這種做法是否有幫助,取決於留下的線索夠不夠清楚。只記「匯入完成」,卻沒有檔名、版本與結果位置,仍會讓接手者無法查證。

實務上可以把任務狀態和資料內容分開。狀態說明目前做完哪些事,原始內容提供數字與細節,兩者透過可追溯的位置接起來。

短期壓縮在官方設定裡是選用功能,預設關閉。安裝長期記憶外掛,不代表工具輸出已經自動改用這套壓縮流程。

文件也列出額外的設定與執行環境調整。對已有穩定代理的人,應先了解變更範圍,再安排一個可以回復原狀的試用環境。

延伸閱讀:Devin Dreaming 是什麼?Cognition 用 Agent Memory Repo 整理跨任務記憶

官方成績改善多少,數字應該怎麼讀?

官方評測顯示記憶與壓縮可能改善長任務表現,但每組數字都對應特定題目與執行設定。

文件中的廣泛搜尋測試,成功率由百分之三十三提高到百分之五十,使用的文字單位總量下降約百分之六十一。

文字單位稱為 token,是模型計算輸入與輸出長度的單位。它和中文字數沒有固定一比一關係,不能直接把節省比例換成字數。

成功率提高了十七個百分點。團隊另列出約百分之五十二的相對改善,兩個寫法採用不同分母,不能混成提高五十二個百分點。

程式修正測試的成功率,由百分之五十八點四提高到百分之六十四點二,文字單位總量減少約百分之三十三。

這組節省幅度比搜尋測試小,已說明改善程度會隨工作類型變動。搜尋省下很多閱讀內容,不代表每個程式任務也會同樣省。

長期偏好記憶測試則由百分之四十八提高到百分之七十六。它測的是記憶使用能力,不能拿來代表所有任務的答案正確率。

團隊說明這些測試採用持續的長工作時段,程式評測包含每段連續處理五十個任務,以形成工作紀錄累積的壓力。

這個設定和日常一次問答不同。只請 AI 寫一小段文字的人,可能根本不會遇到同樣的上下文壓力。

這些數字來自專案團隊的測試,因此適合當成選擇試用方向的證據。能否降低自家費用,還要用相同任務、相同模型與相同成功標準比較。

若節省文字卻增加人工修正,整體成本仍可能上升。評估時應同時記下完成率、人工介入次數與回查原文所需時間。

本機 SQLite 儲存資料,為何還要看模型設定?

資料放在本機,能讓記憶檔案由自己管理,但整個代理是否連到雲端,取決於其他元件。

預設儲存後端是 SQLite,這是一種可把資料存在本機檔案的資料庫。它不需要另外架一臺資料庫伺服器,適合單機試用。

專案同時使用可讀的文字檔,儲存情境、人物設定與任務圖。開發者可以直接開啟檔案檢視,較容易找出記憶內容不合預期的原因。

然而,代理回答問題時仍可能使用雲端模型。若把找回的記憶加入雲端模型請求,那部分內容就會傳給相應服務供應商。

文件也提供遠端向量服務與獨立模型設定。向量是方便搜尋語意相近內容的數字表示,採用遠端服務時,資料流向會跟純本機設定不同。

所以「記憶存本機」只說明儲存位置。讀者還需要確認整理記憶、搜尋記憶與生成回答分別由哪個服務處理。

企業使用時,這個區分尤其實際。員工可以允許某個模型閱讀公開檔案,卻未必能把客戶資料與內部決策一起傳出去。

可以先建立一份資料流向表,列出原始檔案位置、記憶位置、模型服務與搜尋服務。新增遠端元件後,再把它補進表裡。

官方專案採 MIT 授權,允許依授權條件使用與修改程式。開源授權處理的是程式使用權,不會替公司決定哪些個人資料可以儲存。

本機檔案同樣需要存取控制與備份。代理若能讀取別的專案記憶,仍可能把原本應隔開的客戶背景帶進同一份回答。

怎樣讓記憶延續工作,又不把舊決定當新命令?

長期記憶最需要治理的是時間與適用範圍,因為有用的舊資訊也可能在某天失效。

假設一個專案原本使用舊版報表,後來改用新欄位。記憶若只儲存「使用舊版格式」,代理可能持續產出已經不能匯入的檔案。

較好的紀錄會留下適用專案、決定日期與替代關係。代理找到舊規則時,也應能看見哪份較新的決定取代了它。

這是使用者與開發者應安排的工作原則,並非裝上外掛就能保證每個組織都會得到正確的版本判斷。

首次試用可以挑一個資料不敏感、規則會重複使用的小專案。先教會代理固定的輸出格式,再隔一段時間用新對話接續相同任務。

接續時要求它指出採用哪項記憶,以及那項記憶對應的原文。這樣才能看到它究竟找對背景,還是碰巧產出相似的答案。

接著變更一項規則,例如將每週報表改成每月報表。觀察系統能否保留過往背景,同時採用新的工作要求。

如果新規則已寫清楚,答案仍重複使用舊規則,就應查人物設定與情境層的內容。問題可能出在整理、找回或回答的任一階段。

也要準備刪除流程。當一個專案結束,或使用者要求移除個人資訊時,需要知道哪些原文、摘要與搜尋索引都應一起處理。

記憶的成效可以從重複交代次數減少看出來,但信任來自更清楚的證據。系統能否說明自己記得什麼,比單純聲稱越用越懂你更有用。

多個專案共用代理,記憶邊界應如何安排?

同一個代理處理不同專案時,記憶需要帶有適用範圍,避免把某位客戶的要求當成所有工作的通則。

例如一份教材要求用簡短句子,另一份研究報告需要完整引用。兩種格式可以同時存在,使用時則應根據專案選擇。

若系統把一次交付要求提升成長期偏好,新的工作就可能受到影響。檢查上層摘要,可以幫助找出這類過度概括。

專案交接時,也應決定哪些記憶可以帶走。個人偏好、客戶背景與公司流程不一定適合一起匯出,分享範圍需要先說清楚。

這些管理原則不依賴某一種模型。當記憶能清楚回答適用誰、適用哪個工作與何時有效,代理才更容易採用正確的背景。

TencentDB Agent Memory 常見問題

一般聊天也需要安裝嗎?

如果工作很短,且很少延續相同專案,安裝與管理成本可能高於省下的時間。它較適合已經使用代理,並經常跨對話接續長任務的人。

它會取代所有向量資料庫嗎?

專案提供本機儲存與分層記憶,文件也支援向量搜尋。企業若需要多人共享、特殊搜尋或既有雲端架構,仍應按自己的需求選擇後端。

安裝後一定會省六成費用嗎?

官方公布的是特定評測中的文字單位減少。模型價格、工作類型、成功率與人工修正都會影響費用,無法直接套用成每個人的帳單折扣。

系統把偏好記錯,能查到原因嗎?

分層設計留下可讀資料與回查路徑,能協助查出來源。實際處理仍需要比對摘要與原文,並確認修改後的內容有被後續任務採用。

先用一個可回查的小專案,確認記憶真的幫上忙

這套專案把工作摘要和原始紀錄接在一起,對需要長期接續任務的人具有實用方向。它的價值仍建立在來源、版本與資料流向都可理解的前提上。

準備試用時,先閱讀官方安裝說明,選一個不含敏感資料的小專案。留下未啟用記憶時的完成紀錄,再比較延續任務與規則變更後的表現。

只有當代理少問重複問題,又能正確採用新決定,才值得把範圍擴大。把這兩件事一起看,才能避免儲存更多資訊,卻讓工作更難追查。

延伸閱讀:GitHarness 是什麼?讓 AI 記住需求版本,改規格時不用整份重做

資料來源