AI领域原始文档：LLM基础交互与Agent文件处理相关笔记 摘要

文档概览

本笔记为大语言模型基础应用方向的零散学习记录，核心覆盖4个主题板块：

1. LLM输入数据格式要求相关疑问
2. Agent文件处理流程相关疑问
3. 大模型对话角色体系说明
4. Python调用LLM基础操作步骤

关键事实

1. LLM输入与Agent文件处理疑问

笔记中记录了未验证的核心疑问：大语言模型是否仅能识别向量数据？Agent上传的用户文件，是否需要先嵌入向量数据库后通过召回流程才能被模型使用？相关内容可参考LLM向量输入与Agent文件处理机制条目。

2. 大模型对话角色体系

笔记明确了大模型对话场景下的三类标准角色定义与用法：

• system角色：负责设定模型的全局规则、身份定位、输出要求等约束条件
• user角色：用于标识用户侧的提问、输入需求等内容
• assistant角色：用于标识模型侧的回答内容

assistant角色特殊说明

• 设计定位：该角色的核心设计逻辑是用户辅助角色，而非单纯的「AI生成内容标识」，弱化了AI属性，强化了服务属性
• 两种使用场景：
  1. 输出标识：模型生成的所有回答必须使用该角色进行标记，属于大模型交互的标准规则
  2. 输入示例：开发者可在提示词中手动添加标记为assistant的内容，作为示例引导模型输出符合预期的结果，属于提示词优化技巧
• 角色边界例外：大模型对角色标记具备模糊处理特性，不会完全严格遵循角色定义的边界，即使将规则类内容写在标记为assistant的输入内容中，模型依然可以正常识别并遵循相关要求。

3. Python调用LLM基础步骤

笔记记录了Python原生调用大模型的前两步操作规范，后续步骤尚未补充：

1. 第一步：编写符合需求的提示词模板，将其存入自定义变量中
2. 第二步：调用对应大模型的tokenizer工具对输入文本进行编码，转换为模型可识别的张量格式，其中两个核心返回参数的作用为：
   • input_ids：文本内容转换得到的数字序列，是模型实际读取的输入内容
   • attention_mask：注意力掩码，用于标记张量中哪些位置的数字对应有效文本、哪些位置为补全填充的无效内容，引导模型仅对有效内容进行计算

重要细节

1. 文档本身为未完成的学习记录，仅记录了当前验证过的事实与待确认的疑问，不代表全部结论的最终正确性
2. 大模型角色标记的模糊处理特性属于模型训练带来的隐含能力，不同厂商、不同参数规模的模型表现可能存在差异
3. 关于LLM输入格式与Agent文件处理的内容仅为疑问记录，未给出确定性结论，具体实现可参考LangChain RAG能力框架等成熟框架的实现逻辑

相关条目

• 大模型对话角色体系
• LLM向量输入与Agent文件处理机制
• LangChain消息对象体系
• Agent
• 向量数据库