搜索引擎之处理查询

我们从用户的角度来看,用户不关心什么索引结构是倒排还是签名文件,也不需要知道相关排序算法。用户提交了查询,就需要获取满意的搜索结果。这个搜索结果就是搜索引擎是否提供有效的服务。

1.查询流程

查询流程图:

HP{(`$DWAUJGU{5M0T]KCYP

1)用户提交查询

2)分析查询

查询预处理:

1. 一般过滤掉助词或者标点符号之类,如中文的“的”,英文’The’ . 另外对中文做分词处理获取检索组合,

2)对于中文等搜索,需要分词。

3)单词去重等。但是不同的搜索引起处理方式可能不一样。

查询词格式化:

把词汇转换成wordID

3)  根据查询词从倒排索引库获取匹配的检索结果

4)根据特定相关度排序算法进行排序,生成最后搜索结果。

当然了,这个流程还会涉及到缓存的过程。

我们主要说明第3步和第4步的内容:

第3步是基于倒排索引的查询处理。即对已生成的倒排索引,处理其中的数据产生查询结果。

第4步就是相关度排序算法了,由相关检索理论模型来决定。

搜索引擎的信息查询一般都是遵循一定的理论模型,最常用的主要有布尔模型,向量模型,概率检索模型,语言模型,机器学习模型等。在搜索引擎中,需要考虑更多的因素才能为用户提供更符合的结果,广泛的采用了向量模型。实际的搜索引擎查询实现方法一般采用了向量检索模型和布尔模型相结合的方式。

目前机器学习模型逐渐流行起来。前baidu科学家 张栋是这方面的专家(weibo:http://weibo.com/machinelearning)。据说360推出的搜索有两套系统,一套是360搜索团队研发的,另外一套是张栋研发的,张栋研发的这套搜索系统的检索模型应该是基于机器学习的。

这检索模型后面在做介绍。我们这里简单说明查询处理机制。

2. 基于索引的查询处理

  目前有两种常见的查询处理机制和跳跃指针的结构化查询优化:

   2.1 一次一文档 (Document at a time)

2.2 一次一单词 (Term at a time)

2.3 结构化查询,即跳跃指针。

下面详细说明这些机制。举个例子:

假设用户输入“搜索引擎 技术” 而“搜索引擎”这个Term对应的倒排列表文档 DocID一次为{1,3,4},“技术” Term对应的倒排列表中文档DocID列表为{1,2,4} 我们从中可以看出同时包含整个查询的文档是{1,4}.

3. 一次一文档 (Document at a time)

搜索引擎接收到用户的査询后,首先将两个单词的倒排列表从磁盘读入内存。所谓的一次一文档,就是以倒排列表中包含的文档为单位每次将其中某个文档与査询的最终相似性得分 计算完毕,然后开始计算另外一个文档的最终得分,直到所有文档的得分都计算完毕为止。

图3-1是一次一文档的计算机制示意图,为了便于理解,圈中对于两个单词的倒排列表 中的公共文档(文档1和文档4)进行了对齐。图中虚线箭头标出了查询处理计算的行进方向。

_[RKC3@X9MSJHBUH[]EK)5P

图3-1 —次一文档

处理流程:

1)  对于文档1来说,因为两个单词的倒排列表中都包含这个文档,所以可以根据各自的TF和IDF等参数计算文档和查询单词的相似性(具体相似性计算有很多种,此处对相似性计算做了简化处理,TF * IDF就是分数),之后将两个分数相加获得了文档1和用户查询的相似性得分: IDF=2, TF=2 , Score=4。
2)  随后搜索系统开始处理文档2, 因为文档2只在”技术”这个词汇的倒排列表中,所以 根据相应的TF和IDF计算相似性后,即可得出文挡2和用户查询的相似性得分。
3)  用类似的方 法依次处理文档3和文档4。
4)  所有文档都计算完毕后,根据文档得分进行大小排序,输出得分 最闻的K个文档作为搜索结果输出,即完成了一次用户查询的响应。

结果的排序:D4,D1,D3,D4

因为搜索系统的输出结果往往是限定个数的,比如指定输出10个结果,所以在实际实现 一次一文档方式时,不必保存所有文档的相关性得分,而只需要在内存中维护一个大小为K 的优先级别队列,用来保存目前计算过程中得分最高的k个文档即可,这样可以节省内存和计 算时间,一般会采用根堆数据结构来实现这个优先级别队列,在计算结束时,按照得分大小输出就可以实现搜索目标。

4. 一次一单词 (Term at a time)

一次一单词的计算过程与一次一文档不同:
一次一文档可以直观理解为在单词一文档矩阵中,以文档为单位,纵向进行分数累计,之后移动到后续文档接着计算,即计算过程是”先纵 向再横向”;
而一次一单词则是来取”先横向再纵向”的方式,即首先将某个单词对应的倒排 列表中的每个文档ID都计算一个部分相似性得分,也就是说,在单词一文档矩阵中首先进行 横向移动,在计算完毕某个单词倒排列表中包含的所有文档后,接着计算下一个单词倒排列表 中包含的文档ID, 即进行纵向计算,如果发现某个文档m已经有了得分,则在原先得分基础 上进行累加。当所有单词都处理完毕后,每个文档最终的相似性得分计算结束,之后按照大小 排序,输出得分最高的乂个文档作为搜索结果。

图4-2是一次一单词的运算机制图示说明,图中虚线箭头指示出了计算的行进方向,为了保存数据,在内存中使用哈希表来保存中间结果及最终计算结果。

age

图4-2是一次一单词

处理流程:
1)搜索系统首先对包含”搜索引擎”的所有文档进行部分得分计算,比如对于文档1, 可以根据TF和1DF等参数计算这个文档对”搜索引擎”这个查询词的相似性得分,之后根据文档ID在哈希表中查找,并把相似性得分保存在哈希表中。
2)依次对文档3和文档4进行类似的计算。
3)当”搜索引擎”这个单词 的所有文档都计算完毕后,开始计算”技术”这个单词的相似性得分,对于文档1来说,同样 地,根据TF和IDF等参数计算文档1和”技术”这个单词的相似性得分,之后查找哈希表, 发现文档1已经存在得分(”搜索引擎”这个单词和文档1的相似性得分),则将哈希表对应的 得分和刚刚计算出的得分相加作为最终得分,并更新哈希表中文档1对应的得分分值,获得了 文档1和用户查询最终的相似性得分,
4)之后以类似的方法,依次计算文档2和文档4的得分。
5)当全部计算完毕时,哈希表中存储了每个文档和用户査询的最终相似性得化排序后输出得分 最高的K个文档作为搜索结果。

打赏此文

如果您觉得本站的内容对您有所帮助,您可以扫描下面的二维码小额支付请我喝杯茶,感谢!打赏记录
支付宝
微信
承诺:凡打赏捐助的朋友,留言备注自己的邮箱,在打赏捐助时间点的6个月内,本站会每周邮件推送原创专业技术博文,供大家学习和参考!

1 条评论

  1. Jim_C说道:

    看不懂….

留下评论

All fields marked (*) are required