AI 助手与 Agent · 第 1 篇
Hermes 使用笔记
Notes on Using Hermes
【示例内容】这是一篇占位笔记,内容结构仅作演示,具体工具的细节等真正使用后再补。
读完这一篇,你应该能够:
- 理解“上下文窗口”和“记忆”的区别
- 会估算一次对话大约消耗多少 token
- 整理出自己的常用指令清单
本篇目录(3 节)
先分清两个概念
用 AI 助手时最容易混的是上下文窗口(context window)和记忆(memory)。
一句话记住
上下文窗口是“桌面”,记忆是“抽屉”:桌面放当前在用的东西,抽屉放以后还要用的东西。
打个比方
上下文窗口像一张固定大小的书桌,东西太多就得把旧的推下去;记忆像旁边的文件柜,需要时再拿出来放回桌上。
估算 token 用量
公式
$$\text{总 token} \approx \text{系统提示} + \sum_{i=1}^{n} (\text{提问}_i + \text{回答}_i)$$- 中文大约 1 个汉字 ≈ 1~2 个 token(不同模型不一样,这里只是示例)
- 对话越长,每一轮都要把前面的内容再带上
算一遍估算一段对话的用量(示例数字)
- 系统提示约 500 token。
- 共 5 轮对话,每轮提问约 200、回答约 1,000 token。
- 合计:500 + 5 × (200 + 1,000) = 6,500。
答:约 6,500 个 token。
先想一想
对话越来越长以后,回答开始“忘记”最早说过的要求,最可能的原因是什么?
想好了,看答案
早期内容超出了上下文窗口被截掉了。解决办法是把关键要求写进记忆或系统提示,或者开一个新对话并附上摘要。
常用指令清单
| 场景 | 示例指令(占位) |
|---|---|
| 总结 | “用三句话总结上面的内容” |
| 改写 | “改成更口语的语气,保留要点” |
| 检查 | “列出这段话里可能的事实错误” |
实操要点让助手越用越顺手
- 把反复用到的偏好写成固定的系统提示。
- 每次开新任务前,先给一段背景摘要。
别踩坑
- 把密码、密钥直接贴进对话。
- 一个对话里塞进十几个不相关的任务。
- 一个任务一个对话,敏感信息永远不贴。