AI-Wiki

概述

在RAG系统中，Embedding模型的核心作用是定义文本间的语义相似度判断标准，直接决定向量检索的效果上限，是RAG落地阶段的第一个核心决策，选型失误会导致后续所有检索优化策略失效。目前主流Embedding模型均采用Bi-Encoder双塔架构，查询与文档各自独立编码为向量后计算余弦相似度，优势是速度快，文档向量可离线预计算，适合大规模向量库检索。

三大核心选型维度

选型需严格匹配业务需求，核心评估三个刚性维度：

语种支持：明确业务场景是纯中文、中英混合还是多语言需求，优先选择对应语种训练优化的模型；
上下文长度：需与业务预设的文档Chunk|分块长度匹配，若模型上下文窗口小于分块长度会导致信息截断，语义匹配精度大幅下降；
部署资源：结合可用GPU显存、推理延迟要求、是否需要边缘部署等约束，选择对应参数规模的模型。

分场景决策树

结合2024-2025年开源社区主流模型的适配场景，可直接参考如下决策逻辑：

通用场景：优先选择BGE系列模型|BGE-M3，支持中英多语言、8192token上下文窗口、稠密/稀疏/多向量三种检索模式，在MTEB文本嵌入评测榜单|C-MTEB中文检索榜单长期处于第一梯队，无特殊需求可直接选用；
纯中文短文档场景：可选BGE-large-zh，纯中文场景精度略高于BGE-M3，仅支持512token上下文窗口，适合分块长度控制在500token以内的纯中文业务；
多语言场景：对比BGE系列模型|BGE-M3与GTE系列模型|GTE-multilingual-base，参考MTEB多语言检索子任务得分，结合自有测试集效果选择；
资源受限场景：可选E5-small（仅33M参数）或MiniLM，推理速度快、显存占用低，适合GPU资源不足、需边缘部署或对延迟要求极高的场景；
长文档场景：选择Jina Embeddings v2，支持8K token超长上下文窗口，适合分块长度较长的法律条文、技术文档章节等场景。

选型验证流程

选型需遵循「榜单初筛-自有数据验证」的两步标准化流程，避免盲目跟随网络推荐：

第一步：MTEB榜单初筛

MTEB文本嵌入评测榜单是Hugging Face维护的官方Embedding评测基准，覆盖58个任务、多语言维度，筛选时需注意三个边界：

不要只看总分，优先筛选Retrieval检索子任务的得分，RAG场景仅需关注检索相关的效果；
中文场景需查看C-MTEB中文榜单，不要参考英文榜单的排名；
不要盲目追求排名靠前的大参数模型，需结合部署资源约束筛选合适参数规模的候选。

第二步：自有测试集验证

筛选出3-5个候选模型后，在业务自有测试集上验证核心指标：

核心评估指标为MRR（平均倒数排名）、Precision@5（前5个召回准确率）；
优先选择在自有业务数据上指标最优的模型，通用榜单得分仅作为参考。

与Rerank模型的搭配原则

RAG两阶段检索架构中，Embedding负责粗召回，Rerank负责精排，搭配需遵循核心原则：Embedding与Rerank尽量选择同系列模型，同系列模型训练时的数据分布、语义空间一致性更高，搭配效果最优。主流搭配方案参考：

经典流水线：BGE-base 召回Top100 → BGE-Reranker-base精排；
多语言场景：GTE-multilingual-base 召回 → GTE-multilingual-reranker精排；
GPU资源紧张场景：E5-small 召回 → MiniLM-L6-cross-encoder批量推理精排；
长文档（≥8K）场景：Jina Embeddings v2 召回 → Jina-ColBERT-v2精排。

面试应答框架

面对「Embedding模型如何选型」的问题，可从四个层面完整回答：

讲选型维度：从语种支持、上下文长度匹配、部署资源三个维度对齐业务需求；
讲对比过程：在MTEB/C-MTEB榜单筛选检索子任务得分靠前的候选模型，在自有测试集上验证MRR、Precision@5指标确定最优解；
讲搭配方案：选择同系列Rerank模型搭配，语义空间一致性更高，效果更好；
讲微调决策：若业务为垂直领域，可基于领域QA对微调模型，进一步提升检索效果。

RAG场景Embedding模型选型方法

概述