Yanzzp · blog

使用 LLM 时,Memory 和反馈应该怎么做

分类ai

使用 LLM 时,Memory 和反馈应该怎么做

用户通过 Memory 和反馈与 AI 助手协作的插图

Memory 像长期备忘录,反馈像方向盘。一个负责让 AI 更了解你,一个负责让当前结果更接近目标。

大型语言模型(LLM)越用越像一个工作伙伴。它能不能帮得准,除了模型本身的能力,也取决于两件事:它记住了什么,以及你给了什么反馈。

这篇文章用非技术视角说明:Memory 是什么、反馈为什么重要,以及普通用户怎样用得清楚、安全、有效。

先记住这三个重点

重点作用
Memory 负责长期偏好把稳定、以后还会反复用到的信息记下来,减少每次重复说明。
反馈负责当前修正告诉模型哪里不合适、要改成什么样,让这一轮结果更准。
隐私决定边界不要把密码、密钥、客户隐私等敏感信息放进长期记忆。

先理解两个概念

Memory:让模型记住长期偏好

Memory 可以理解成“长期备忘录”。它记录的是你希望模型以后也记得的信息,例如:

  • 你喜欢中文回答,语气简洁一点。
  • 你写文章时偏好先列大纲,再写正文。
  • 你所在团队常用某些固定称呼、格式或流程。
  • 你不希望它每次都重复解释基础概念。

Memory 适合保存长期、稳定、反复会用到的信息。

反馈:帮模型修正当下表现

反馈是你在一次对话里告诉模型:“这样不对,应该这样做。”它可以是很短的一句话,例如:

  • “太技术化了,改成普通用户能看懂的版本。”
  • “不要列太多点,保留最重要的 3 条。”
  • “这个语气太正式,放轻松一点。”
  • “你误解了我的意思,我要的是操作建议,不是概念解释。”

反馈更像“方向盘”,帮助模型在当前任务里及时调整。

一张图看懂两者关系

flowchart LR
  U["你提出任务"] --> A["LLM 生成回答"]
  M["Memory:长期偏好和稳定背景"] --> A
  A --> R["当前结果"]
  R --> F["你的反馈:哪里不合适、要怎么改"]
  F --> A
  F -. "适合长期复用时" .-> M

简单说:

  • Memory 帮模型“下次少问一点”。
  • 反馈帮模型“这次改准一点”。
  • 只有稳定、长期有效的反馈,才值得沉淀成 Memory。

Memory 适合记什么

好的 Memory 应该是稳定、明确、对未来有帮助的。

适合放进 Memory不适合放进 Memory
长期语言偏好:中文、简洁、先结论后解释一次性的临时任务
稳定工作背景:你的角色、产品方向、目标用户还没确认的猜测
固定规则:品牌表达、写作风格、命名习惯密码、验证码、密钥、证件号
长期项目背景:目标、约束、常见决策不希望以后自动带入的信息

一个简单判断方法是:如果这件事下周、下个月还会反复影响回答,它才适合进入 Memory。

要不要记进 Memory?用这个判断

flowchart TD
  A["这条信息以后还会反复用到吗?"] -->|不会| B["留在当前对话里"]
  A -->|会| C["它稳定、明确、已经确认了吗?"]
  C -->|没有| D["先不要记,等确认后再说"]
  C -->|是| E["里面有敏感信息吗?"]
  E -->|有| F["不要放进 Memory"]
  E -->|没有| G["可以作为 Memory"]

这个判断可以避免两个问题:该记的没记住,不该记的又长期影响回答。

反馈应该怎么给

很多人以为反馈要写得很复杂,其实不需要。好的反馈通常只需要说明三件事:哪里不合适、希望改成什么样、有没有参考标准。

1. 直接指出问题

不要只说“这个不好”。可以更具体一点:

  • “这段太长了。”
  • “这个解释太像技术文档。”
  • “你没有回答我最关心的风险。”
  • “这个方案对新手不友好。”

2. 给出调整方向

告诉模型你想要的结果:

  • “改成适合老板快速浏览的版本。”
  • “用生活类比解释。”
  • “先给结论,再给原因。”
  • “保留专业性,但减少术语。”

3. 必要时给一个例子

例子比抽象要求更清楚:

“像给第一次使用 AI 工具的人解释一样,不要默认读者懂 prompt、上下文窗口这些词。”

有了这个标准,模型更容易调整到你想要的风格。

一个好用的反馈模板

当你不知道怎么反馈时,可以直接套用这个句式:

这版的问题是:。请改成:。读者/使用场景是:。需要保留:,需要避免:____。

示例:

这版的问题是太技术化。请改成非技术人员能看懂的说明。读者是刚开始使用 AI 工具的职场用户。需要保留实用建议,避免复杂术语。

Memory 和反馈怎么配合

可以把 Memory 和反馈分工理解成:

  • Memory 负责“以后都这样”。
  • 反馈负责“这一次请这样改”。

例如,你长期希望模型“回答更简洁”,这适合放进 Memory。
但如果某一次你要写培训材料,需要更详细的解释,只要在当次任务里反馈:“这次请展开讲,适合新人阅读。”

不要把所有反馈都变成 Memory。否则模型可能越来越受限制,在不同场景下反而不灵活。

三种常见场景

场景例子建议
写作偏好“以后写给非技术读者时,先给结论,再解释原因。”适合记进 Memory
当前修改“这一版太长了,只保留 5 个重点。”适合当次反馈
敏感信息“这是我的账号密码,请以后记住。”不要放进 Memory

使用 Memory 时要注意隐私

Memory 会影响未来对话,所以要谨慎放入个人或业务信息。

建议遵守三条原则:

  • 不保存敏感信息:密码、密钥、财务账号、身份证件、客户隐私都不应该进入 Memory。
  • 不保存未经确认的信息:例如“某客户一定会续约”这类判断,除非它已经是明确事实。
  • 定期检查和清理:如果角色、项目、偏好变了,旧 Memory 也要更新或删除。

Memory 的目标是减少重复说明,不是保存所有细节。

适合普通用户的使用习惯

可以从下面这套习惯开始:

  1. 开始新任务时,先说明目标和读者。
  2. 如果回答不合适,马上指出具体问题。
  3. 对长期偏好,明确告诉模型“以后都按这个方式”。
  4. 对临时要求,说明“只针对这次任务”。
  5. 不把敏感信息交给 Memory。
  6. 重要内容让模型先给草稿,再根据反馈迭代。

最推荐的日常做法

先把任务目标、读者和期望风格说清楚;看到不合适的地方马上反馈;只有那些长期稳定、没有敏感信息的偏好,才让模型记住。

常见误区

误区一:以为模型会自然懂你

模型不会自动知道你的真实偏好。你说得越清楚,它越容易帮到你。

误区二:把 Memory 当成万能档案

Memory 不是资料库。它更适合保存偏好、规则和稳定背景,不适合塞进大量细节。

误区三:只在很不满意时才反馈

小反馈也很有价值。比如“更短一点”“少一点术语”“更像给用户看的文案”,都能明显改善结果。

误区四:反馈只说情绪,不说方向

“不对”“不好”“重写”都太模糊。加一句“我希望它更像什么”,效果会好很多。

一句话总结

Memory 让模型记住长期偏好,反馈让模型修正当前结果。把稳定的信息放进 Memory,把临时的要求留在对话里,并用具体、清楚、可执行的反馈来引导模型,你就能更轻松地得到符合自己习惯的回答。