纯向量搜索为什么不够?关键词、语义、重排各解决什么问题,以及常见向量数据库怎么选。

如果你搭的知识库问答"有时候很准、有时候离谱",问题多半出在检索环节。现在业内比较一致的答案是:混合检索加交叉编码器重排。拆开看,每一步解决的都是不同的问题。
三种检索各管一摊
- BM25 关键词检索:擅长精确匹配专有名词、型号、人名。用户搜一个具体产品代号时,它比语义搜索靠谱。
- 稠密向量检索:擅长"意思相近但用词不同"的查询。用户用大白话问,它能找到表述不同的相关段落。
- RRF 融合:把两路结果合并成一个排序,兼顾精确与语义。
最后再加一层交叉编码器重排:它把查询和候选段落放在一起读,做精细相关性判断。向量检索快但近似,重排慢但准——先用向量广撒网,再用重排精选,是最划算的组合。
效果差多少
有实践给出的数字是:混合检索加交叉编码器重排,比单独用其中任一种,答案准确率高出 15–25 个百分点。这也是为什么"纯向量搜索"在 2026 年常被直接视为架构错误。
工具怎么选
检索层:Milvus、Pinecone 适合规模化向量搜索,Weaviate 原生支持混合检索,Qdrant 的过滤能力出色。框架层:LangChain、LlamaIndex 负责串起检索、Prompt、记忆与工具调用,Haystack 是端到端方案。Embedding 模型把文本变成可检索的向量。
还有一个最容易被忽略的环节:可观测性。如果你看不到模型当时检索到了什么,就无法定位它为什么答错。记录每次回答对应的检索片段,是排查问题的前提——这不是可选项。
本文同步自 ev7.cn · AI 博客,原文地址:https://www.ev7.cn/86.html
皮皮 AI 导航
AI 工具榜