RAG
本文是 RAG 系列的第二篇,上一篇中,我们关注的主要是 BM25 这条词法检索链路:从分词、分块、倒排索引一路到相关性打分。而在系统架构一节中我们已经提到,词法检索存在一个结构性的盲区:BM25无法理解词之间的语义。对于 BM25 来说,「部署」和「上线」之间零交集,相应的匹配分数为 0 ,无论这俩个词在我们看来实际上指代的基本是同种场景。这个盲区不是 BM25 实现的不够好,而是它的工作原理决定的:其统计的是具体符号的出现频次之间进而来推测隐含的关系,这会一定程度上丢失符号背后的含义。
本文要介绍的内容,就是用来补齐这块盲区的路径:Embedding 语义检索路。
/t.png)
/topic.png)