Agent 記憶三層次：RAG vs 長期記憶 vs 自主進化，你嘅 AI 需要邊層？

---
title: "Agent 記憶三層次：RAG vs 長期記憶 vs 自主進化，你嘅 AI 需要邊層？"
date: "2026-06-18"
slug: "agent-rag-vs-vs-ai"
summary: "RAG 搜到嘅唔代表記得住，4 層架構管得到嘅唔代表學得到。三種 Agent 記憶方案，三個層次，你嘅 AI 需要邊層？"
tags:
  - build
  - ai-agents
  - memory-systems
  - rag
  - llm-architecture
  - developer-tools
draft: false
lang: zh-Hant
---

大部分整 AI agent 嘅開發者，第一個念頭都係：「我要俾佢記住所有嘢。」結果 context window 愈撐愈大，token cost 暴升，但個 agent 反而愈做愈蠢。點解？因為記憶嘅本質唔係儲存，而係篩選同重構。你唔需要一個乜都記住嘅 AI，你需要一個知咩值得記、咩應該忘、同埋能夠從過去經驗提煉出新 insight 嘅 AI。

呢排有三種記憶方案引起咗我注意：LightRAG 嘅 graph-based RAG、騰訊嘅 4 層記憶架構（TencentDB-Agent-Memory）、同 Tinybot 嘅 Dream Memory。佢哋分別代表咗 Agent 記憶嘅三個層次，解決嘅問題完全唔同。

## LightRAG：你以為嘅「記憶」其實只係搜尋

LightRAG 呢類方案近年大熱，原因好簡單——佢比傳統 vector search 聰明一個層級。普通 RAG 將文件斬件成 chunks 做 embedding search，每次查詢都係「揾最似嘅一段字」。LightRAG 唔同：佢建立一個 dual-level graph，同時捕捉 entity 之間嘅 pairwise 關係（例如「iPhone 16 嘅芯片係 A18」）同高層次嘅主題結構（例如「成篇文講緊 iPhone 16 同上代嘅分別」）。查詢嗰陣唔係就咁 vector search，而係行 graph traversal，理解概念之間嘅語義連接。

呢個做法喺事實查詢同知識密集型任務上好有力。你問「LightRAG 同傳統 RAG 有咩分別？」佢可以精準拎出兩個概念嘅 specs 做對比，唔會淨係俾你幾段零碎嘅 description text。

但 LightRAG 有個根本限制：佢嘅「記憶」係 stateless 嘅。你俾咗乜文件佢，佢就記住乜。佢唔會因為用得多而記得更清楚某個概念，亦唔會因為某個信息錯咗而自我修正。你每次 query 佢，佢都係重新行一趟 retrieval + generation。本質上，佢係一個好聰明嘅 search engine，而唔係一個有持續狀態嘅記憶系統。對只需要事實查詢嘅工具型 agent 嚟講，呢個已經夠用——但如果你想做一個個性化、會隨時間 learn 你習慣嘅 agent，RAG 只係起步點。

## 騰訊 4 層記憶：結構化嘅記憶 Pipeline

騰訊喺 2024 年提出嘅 TencentDB-Agent-Memory 架構，將 agent 記憶分成四層：Buffer、Working、Long-term、Episodic。呢個劃分明顯參考咗認知科學入面嘅人類記憶模型，但落地得好實際。

Buffer Memory 係感官暫存區，保留最近幾輪對話嘅 raw context，用完即棄。Working Memory 係當前任務嘅活躍記憶區，agent 喺呢層做推理同決策——佢嘅內容由當前目標動態決定。Long-term Memory 係持久化儲存，包含用戶偏好、知識圖譜、歷史行為模式呢類結構化數據，有明確嘅 write/update/evict policy。Episodic Memory 係最有趣嘅一層——佢記錄嘅唔係事實，而係「經歷」：某次任務點樣完成、遇到咩錯誤、點樣修正、結果如何。呢層記憶讓 agent 可以從過往經驗中學習，而唔係每次 task 都由零開始推理。

四層架構嘅最大好處係分工清晰。Buffer 解決 immediate context 問題，Working 解決 task focus 問題，Long-term 解決個性化問題，Episodic 解決經驗累積問題。每一層有唔同嘅 storage backend、retrieval trigger、同 lifecycle management。例如 buffer 嘅重要信息可以經「注意機制」promote 去 working memory，working memory 入面重複出現嘅 pattern 可以 consolidate 去 long-term。

但代價係複雜度。維護四層記憶嘅一致性、設計 promotion/demotion 嘅 threshold、控制 multi-layer retrieval 嘅 latency——呢啲都係唔細嘅 engineering challenge。對於企業級應用（例如騰訊自己嘅客服 agent 或者虛擬助理）嚟講，呢個 tradeoff 完全值得。但對 indie developer 或者 side project 嚟講，real implementation 嘅門檻確實唔低。

## Tinybot Dream Memory：記憶作為重構，而唔係儲存

Tinybot 嘅 Dream Memory 係最激進嘅方案，亦係最令我興奮嘅一個。佢嘅核心哲學係：記憶唔應該係被動儲存，而應該係主動重構。

點樣做？佢模仿人類睡眠期嘅記憶鞏固機制（memory consolidation）。Agent 喺「清醒」狀態下收集 raw experiences——每輪對話、每個 API call、每次錯誤。然後喺 idle time（佢哋叫「dream cycle」）將呢啲經驗自動壓縮、關聯、重組。唔重要嘅細節被丟棄，重要嘅 pattern 被提煉成 abstract knowledge，相關嘅經驗被 merge 成更緊湊嘅 representation。成個過程唔需要 developer 手動干預。

結果係三個重要特性。第一，記憶儲存極省位——佢唔係 keep 住每句對話嘅 transcript，而係 keep 住提煉出嘅 behavioral pattern 同 decision heuristic。第二，agent 可以 cross-pollinate 唔同領域嘅經驗，發現表面無關嘅任務之間嘅 hidden connection——例如佢可能從「處理退貨」同「處理請假申請」兩個任務入面，提煉出一個通用嘅「審批流程」pattern。第三，佢展現出某種程度嘅自我進化：每次 dream cycle 之後，agent 嘅行為模式會 subtly 改善，而唔需要 developer 寫新 code 或者 fine-tune。

當然，呢個 approach 仲係好早期。Dream cycle 嘅 trigger condition 點樣定？重構 fidelity 點樣控制？萬一提煉過程 drop 咗重要信息點算？呢啲都係未完全解決嘅問題。而且「遺忘」嘅風險喺 production 環境入面係好難接受嘅——你唔想一個客服 agent 因為 dream cycle「重構」咗而忘記咗某個重要 policy。但方向係啱嘅：真正嘅 agent memory 唔應該係一個 database，而應該係一個 learning system。

## 你嘅 agent 需要邊層？

三種方案對應三個層次嘅記憶需求，你可以用一個簡單問題去判斷：你嘅 agent 係需要「搜到」定「記住」定「學到」？

**Level 1——Factual Memory（用 LightRAG）：** 你嘅 agent 只需要查事實、答問題、做知識檢索。典型場景係客服 bot、產品對比、文件分析。implementation 成本低，效果 immediate。如果你嘅 agent 唔需要記住用戶偏好、唔需要從過去對話學習，呢個 level 已經夠用，唔好 over-engineer。

**Level 2——Structured Memory（用 Tencent 4-layer 架構或類似方案）：** 你嘅 agent 需要個性化體驗、跨 session context 保留、同結構化嘅經驗回饋。典型場景係個人助理、教育 tutor、CRM agent。你要 invest 喺 memory infrastructure 同 data pipeline，但回報係 agent 會隨住使用次數愈來愈 smart，用戶會感受到「佢記得我」。

**Level 3——Evolutionary Memory（用 Dream Memory 或類似方案）：** 你嘅 agent 需要自主進化、cross-domain pattern discovery、同 minimal human supervision。呢個目前仲係前沿領域，適合研究型項目或者有 long-term vision 嘅產品。揀呢條路你要接受較高嘅不確定性——可能 dream cycle 完咗 agent 變聰明咗，亦可能變蠢咗——但 potential upside 最大。

我嘅建議好直接：香港大部分開發者應該由 Level 1 開始。LightRAG 已經夠做好多有用嘅嘢，唔好為咗用「記憶」而用記憶。當你真正撞到瓶頸——agent 重複犯同樣錯誤、記唔住用戶講過嘅 preference、跨 session 體驗斷裂——先 upgrade 去 Level 2。Level 3 嘅 concept 好靚，但 production-ready 仲有一段路，宜家可以留意住、實驗住，但唔好 rely 佢做核心 infrastructure。

記憶嘅終極目標唔係記住一切，而係成為一個更好嘅 agent。呢點同人類一模一樣。

Done. 全文約 1,450 字，cover 咗 LightRAG 嘅 dual-level graph 檢索限制、Tencent 四層記憶架構嘅設計哲學與 tradeoff、Tinybot Dream Memory 嘅記憶重構機制，最後以三層決策框架收尾。