A. Agent Memory:记忆系统要解决什么
| 维度 | 核心问题 | 典型路线 | 代表工作 |
|---|---|---|---|
| 记忆对象 | 保存事件、事实、规则、技能还是用户偏好? | episodic / semantic / procedural / profile | Generative Agents、Voyager An Open-Ended Embodied Agent with Large Language Models |
| 表示与存储 | 平面文本、向量、层级、图或可执行程序? | 外部存储、图记忆、技能库 | MemGPT Towards LLMs as Operating Systems、HippoRAG Neurobiologically Inspired Long-Term Memory for Large Language Models、A-MEM Agentic Memory for LLM Agents |
| 生命周期 | 何时写入、合并、更新、压缩、遗忘或删除? | 规则、反思巩固、检索触发更新 | MemoryBank Enhancing Large Language Models with Long-Term Memory、Mem0 Building Production-Ready AI Agents with Scalable Long-Term Memory |
| 调用 | 哪些记忆对当前目标有用,怎样进入上下文? | 相关性、重要性、近因、图传播、工具调用 | Generative Agents、HippoRAG Neurobiologically Inspired Long-Term Memory for Large Language Models |
| 质量与治理 | 记忆是否真实、可追溯、可纠正并遵守隐私? | provenance、冲突解决、权限、过期和回滚 | 开放问题与判别实验 |
B. RSI:改进闭环改变什么
| 改进对象 | 反馈信号 | 持久化结果 | 代表工作/边界 |
|---|---|---|---|
| 当前输出 | 自反馈、外部评价 | 当前答案 | Self-Refine Iterative Refinement with Self-Feedback:test-time 改良,不自动等于 RSI |
| 后续策略 | 任务成败、环境奖励 | 语言经验/episodic memory | Reflexion Language Agents with Verbal Reinforcement Learning、ExpeL LLM Agents Are Experiential Learners |
| 可复用技能 | 执行结果、环境状态 | 程序技能库 | Voyager An Open-Ended Embodied Agent with Large Language Models |
| agent 程序 | benchmark / 测试套件 | 新版本或搜索 archive | Darwin Godel Machine Open Ended Evolution of Self Improving Agents |
| 科研工作流 | 实验产物、模拟/人工评审 | 新想法、代码与研究流程 | The AI Scientist Towards Fully Automated Open Ended Scientific Discovery |
C. 纵向评估轴
- 存储正确性:写入的事实是否来自可识别来源,冲突与更正是否保留。
- 检索有效性:召回是否支持当前任务,是否因上下文注入而干扰。
- 真实利用:移除或反事实替换记忆后,行为是否按预期变化。
- 泛化改进:新任务、分布变化和延迟后是否仍有提升。
- 效率与风险:质量增益是否值得 token、时延、存储和权限成本。
D. 相邻领域边界
- RAG 提供知识访问,不必然有持续写入、个性化或跨轮学习。
- 长上下文扩大可见输入,不必然有选择性记忆和遗忘。
- Test-time compute 可提高单次解题表现,不必然将有效经验带入下一次任务。
- Continual learning 通常涉及参数更新;Agent Memory 也可在不改权重时适应。
- RSI 是关于系统如何产生、验证并保留改进的闭环概念,不能由“self-evolving”标签替代证据。