< | 同上，范围是子任务自己的对话 |
| Gem 的 agent | 对话里用到某个 gem 的 agent，或 gem 的流程（SOP）运行到 agent 这一步时 | 「Agent」里为这个 agent 选的模型；没选就是 `chat` 角色 | 同对话，系统提示词换成这个 gem 自己的 |
| Gem Studio 助手 | 你在 Gem Studio 里和助手对话时 | 「Agent › Gem Studio」里选的模型；没选就是 `chat` 角色 | 同对话，另加它读取的草稿文件 |
一个对话用哪个模型，在它创建时就定下来了。之后改设置只影响新建的对话。
### 应用在后台自动做的
| 功能 | 什么时候调用 | 用哪个模型 | 发给模型什么 |
| --- | --- | --- | --- |
| 生成对话标题 | 新对话的第一条消息。6 个字符以内的消息直接当标题，不调用模型 | 「Agent › 后台任务」里选的模型；没选就是 `chat` 角色 | 只有这第一条消息的文字 |
| 总结长对话 | 对话的大小超过「设置 › 系统 › 自动压缩对话」时，在助手下一次回复之前。默认 10 万 token，设为 0 关闭 | 「Agent › 后台任务」里选的模型；没选就是 `chat` 角色 | 这个对话里较早的部分：你和助手的消息（太长的只留开头和结尾）；工具调用只留工具名、缩短后的参数和结果。最近 10 条消息不在其中 |
| 知识库 collection 的一句话描述 | 知识库里某个顶层 collection 的子文件夹或文件名有变化之后。每个 collection 最多每 30 分钟一次 | 「Agent › 后台任务」里选的模型；没选就是 `chat` 角色 | 这个 collection 的目录结构和文件名。不包含文档内容 |
| 读出扫描件和图片里的文字 | 往知识库导入扫描版 PDF 或图片时，不会先问你。PDF 里没有文字的页面每页调用一次，每个文件最多读前 500 页（超出的页不读，导入结果里会提示）；单独选中或拖进来的图片每张调用一次。导入整个文件夹时，里面的图片不读 | `vision` 角色（界面上叫「识图」）；没设就是 `chat` 角色 | 这些页面或图片本身（转成灰度、缩小）。读出的文字存进你的知识库 |
| Gem 自己发起的调用 | 你安装的 gem 在它的工具或流程里调用模型时。只有安装时被授予 `llm` 权限的 gem 才能这样做 | `chat` 角色 | 由这个 gem 决定。它能读到什么，取决于你授予它的其他权限 |
这一类调用同样按你的模型服务商的价格计费，用量计入「统计」页。它们用掉的 token 不计入「每次运行的 token 上限」。读扫描件是按页调用的，一份几十页的扫描件，费用会明显高于上表的其他几项。
起标题、总结长对话、描述知识库，这三项读到的是你的消息和文件名，内容会发给「后台任务」所用模型的服务商。在「Agent › 后台任务」里给它选一个在这台电脑上运行的小模型（比如「本地」角色），这些内容就不会离开你的电脑。
读图片里的文字时，模型必须能看图。如果用的模型不能看图（比如只支持文字的模型、本地 GGUF 模型），这份文件会导入失败，导入结果里写着原因——到「设置 › AI 设置 › 角色」给「识图」选一个能看图的模型，再导入一次即可。同一个文件用同一个模型读过之后，再次导入不会重新读；应用更新到新版本后的第一次导入除外。
### 长对话总结是怎么回事
对话很长时，全部内容会超出模型一次能处理的长度。超过你设置的大小后，应用会请「后台任务」的模型（没选就是 `chat` 角色）把较早的部分写成一份总结。此后发给模型的是「这份总结 + 最近的消息原文」，不再是全部历史。
- 聊天记录不受影响。所有消息都还在；记录里会出现一条「已总结较早的消息」的分隔线，点开可以看到总结的内容。
- 总结之后，助手对较早内容的细节只知道总结里写下的那些。需要它用到某个早先的细节时，直接再告诉它一次。
- 对话继续变长，会再总结一次。新的总结是在上一份的基础上写的。
- 这个大小要设得比你所用模型的上下文长度小。应用目前不知道各个模型的上下文长度，不会替你调整。
- 如果总结没写成（比如模型服务暂时不可用），这次回复照常进行，用的是完整的历史。
### 不调用你的模型的
- 知识库的检索和向量索引，用的是随应用安装的本地 embedding 模型。它在你的电脑上运行，内容不发给任何服务。
- 导入网页：网页由应用自己的浏览器在后台打开、取出正文，不经过模型。网页里的图片不读。
- 「深度思考」「本地」和你自己加的角色，只在你把某个 agent 指向它们、或者 agent 把子任务交给它们时才会被用到；「识图」除此之外，还用来读扫描件和图片里的文字（见上表）。
## 给 gem 选模型
gem 装好以后会打开它的页面，在「设置 › AI 模型」里给它的每个 agent 选模型：下拉框里先是你的角色（选角色，就跟着你在「角色」里给这个角色配的模型走），再是你加过的所有模型。没选时用 `chat` 角色。「设置 › AI 设置 › Agent」里改的是同一个设置。还没有添加任何模型时，不显示这一项。
有的 gem 要求模型除了文字以外，还能看图片、听音频、看视频，或者生成图片、音频、视频。你在 gem 的页面上或在「Agent」里给它的 agent 选模型时，Notochord 会拿选中的模型对照一份常见模型的能力列表：
- 对得上，什么都不显示。
- 列表说这个模型不会，或者列表里没有这个模型（比如你自己给模型起的名字），或者选的角色还没有配模型，会在下拉框下面显示一行提示。你自己确认：模型其实会就不用管；不会就换一个。
- 提示不会阻止安装，也不会阻止使用。
]]>