AI · 源文件

- LLM只能识别向量数据？所以Agent上传文件，是要嵌入向量数据库，然后召回？ ^9a9a35

- assistant角色的作用到底是干啥的？
 - 就是模型自己的 “身份”，模型生成的所有回答都会被标记为这个角色。
 - 常见角色只有 3 种：system（定规则）、user（用户问）、assistant（模型答）
 - 「assistant」这个名字的背后，藏着大模型设计的一个核心思路：**它不是在强调 “这是一个 AI 模型”，而是在强调 “这是一个帮助用户的角色”**。
 - “assistant” 这个角色有两个用法：
 *作为输出角色*：模型必须用这个角色标识自己的回答（这是规则）。
 *作为输入示例*：你可以在提示词里写这个角色的内容，目的是给模型提供参考（这是技巧）。
 - 即使你把 “规范要求” 写在标注为 “assistant” 的输入框里，模型往往也能理解 —— 这背后是模型 “模糊处理” 上下文的能力，而不是严格遵循 “角色定义”。

- 用python调用LLM
 1. 写一个类似提示词模板的东西，将它存入变量。
 2. 用tokenizer对输入的文本进行编码，编码成模型可以读懂的张量，其中input_ids是数字系列（文本转成的数字序列），attention_mask是注意力掩码，告诉模型哪些数字是有效文本，哪些是填充的。
 3.