信息检索笔记-布尔检索

2024-05-04 23:08

本文主要是介绍信息检索笔记-布尔检索,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

       信息检索主要分为三大类:Web搜索、个人信息检索和面向企业的搜索。


词项文档矩阵

     在搜索的时候,一种土办法:假设我们要在一本书中搜索含有“Brutus”和“Caesar”关键字的文档,那么我从头到尾线性扫描。这种方式在某些情况下不太灵活。一种非线性的扫描方式就是给文档建立索引。我们先给这本书建立一个词项-文档矩阵如下图所示。

     其中“lsj”,“seu”,“njust”表示单词,而文章1,文章2,文章3表示文章题目。那么我们看“每行”就能清楚的知道每个单词出现在那几篇文章中了,同样我们看列,就知道每篇文章中出现了哪些单词。

     当我们要找同时包含“lsj”和“seu”的时候,我们只需要将2行做个与运算

【注】这个词项文档矩阵可以做SVD分解,得到各个主题与文档之间的相关性以及主题与词项之间的相关性。


倒排表

     上面这种方案有点小问题,就是如果我们的单词很多,上亿,文章也很多,则这个矩阵将会非常之大。同时,我们又注意到这个矩阵其实是一个稀疏矩阵。那么为了节省空间,我们采用另一种存储方式——倒排表


     从上图我们可以看出左边是词典,右边记录了倒排索引。两者是分开存储的,即在词典中的每个单词包含了一个指向倒排记录表的指针

     上图中有两个词汇,文档频率:单词在多少篇文章中出现,即倒排记录表的长度。这个域在布尔检索的时候可以用来优化词项频率:就是这个单词在某篇文章中出现的次数,用来设置权重,从而提高某篇文档的排名。

     倒排表两种实现方式:(1)链表,方便插入;(2)可变数组,比链表少了一个指针域,连续存储,提高访问速度。

【注】词典和倒排记录都有存储开销。前者往往存在内存中,而后者规模很大,通常放在磁盘中。  我们需要每个部分进行存储优化来提高访问速率。

【注】为了从一篇文章得到词典,我们还需要做一些语言学处理,词条化处理。

【注】词典其实一种索引,该索引能索引到倒排记录表。其结构可以不是简单的采用数组,而是通过一些hash结构、B树、trie树来存储。这样来提高查找速度。


布尔检索查询优化

     如何通过组织查询的处理过程来使处理工作量最小。对布尔检索进行优化要考虑的一个主要因素是倒排记录表的访问顺序

      例如:"Brad" and "ljs" or "dfsf"

                   "ljs" or "dfsf"   and "Brad"

两者合并的倒排记录肯定不一样,怎样调整顺序是布尔检索运算量最小。通常是小的倒排记录先算。

【and检索】就是求两个排序链表的交集。


自由文本查询

      这种查询方式确定哪篇文档最能满足要求,需要对文档按照重要性进行排序(一个简单的方法,对词项频率较高的文档赋予较高的权重,这样排名)。而不是像布尔检索这样简单的返回结果的“Yes” or “No”,答案太单调。


查询结果的评价

(1)召回率:所有与检索相关的文档中被返回的比例。

(2)准确率:返回的文档中,真正和检索相关的比例。


后记

     那么如何构建词典,因为从文本到一个一个的词项还是有点步骤要做的,详细请看:http://blog.csdn.net/lsjseu/article/details/12232211

这篇关于信息检索笔记-布尔检索的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/960293

相关文章

【学习笔记】 陈强-机器学习-Python-Ch15 人工神经网络(1)sklearn

系列文章目录 监督学习:参数方法 【学习笔记】 陈强-机器学习-Python-Ch4 线性回归 【学习笔记】 陈强-机器学习-Python-Ch5 逻辑回归 【课后题练习】 陈强-机器学习-Python-Ch5 逻辑回归(SAheart.csv) 【学习笔记】 陈强-机器学习-Python-Ch6 多项逻辑回归 【学习笔记 及 课后题练习】 陈强-机器学习-Python-Ch7 判别分析 【学

系统架构师考试学习笔记第三篇——架构设计高级知识(20)通信系统架构设计理论与实践

本章知识考点:         第20课时主要学习通信系统架构设计的理论和工作中的实践。根据新版考试大纲,本课时知识点会涉及案例分析题(25分),而在历年考试中,案例题对该部分内容的考查并不多,虽在综合知识选择题目中经常考查,但分值也不高。本课时内容侧重于对知识点的记忆和理解,按照以往的出题规律,通信系统架构设计基础知识点多来源于教材内的基础网络设备、网络架构和教材外最新时事热点技术。本课时知识

论文阅读笔记: Segment Anything

文章目录 Segment Anything摘要引言任务模型数据引擎数据集负责任的人工智能 Segment Anything Model图像编码器提示编码器mask解码器解决歧义损失和训练 Segment Anything 论文地址: https://arxiv.org/abs/2304.02643 代码地址:https://github.com/facebookresear

数学建模笔记—— 非线性规划

数学建模笔记—— 非线性规划 非线性规划1. 模型原理1.1 非线性规划的标准型1.2 非线性规划求解的Matlab函数 2. 典型例题3. matlab代码求解3.1 例1 一个简单示例3.2 例2 选址问题1. 第一问 线性规划2. 第二问 非线性规划 非线性规划 非线性规划是一种求解目标函数或约束条件中有一个或几个非线性函数的最优化问题的方法。运筹学的一个重要分支。2

【C++学习笔记 20】C++中的智能指针

智能指针的功能 在上一篇笔记提到了在栈和堆上创建变量的区别,使用new关键字创建变量时,需要搭配delete关键字销毁变量。而智能指针的作用就是调用new分配内存时,不必自己去调用delete,甚至不用调用new。 智能指针实际上就是对原始指针的包装。 unique_ptr 最简单的智能指针,是一种作用域指针,意思是当指针超出该作用域时,会自动调用delete。它名为unique的原因是这个

查看提交历史 —— Git 学习笔记 11

查看提交历史 查看提交历史 不带任何选项的git log-p选项--stat 选项--pretty=oneline选项--pretty=format选项git log常用选项列表参考资料 在提交了若干更新,又或者克隆了某个项目之后,你也许想回顾下提交历史。 完成这个任务最简单而又有效的 工具是 git log 命令。 接下来的例子会用一个用于演示的 simplegit

记录每次更新到仓库 —— Git 学习笔记 10

记录每次更新到仓库 文章目录 文件的状态三个区域检查当前文件状态跟踪新文件取消跟踪(un-tracking)文件重新跟踪(re-tracking)文件暂存已修改文件忽略某些文件查看已暂存和未暂存的修改提交更新跳过暂存区删除文件移动文件参考资料 咱们接着很多天以前的 取得Git仓库 这篇文章继续说。 文件的状态 不管是通过哪种方法,现在我们已经有了一个仓库,并从这个仓

忽略某些文件 —— Git 学习笔记 05

忽略某些文件 忽略某些文件 通过.gitignore文件其他规则源如何选择规则源参考资料 对于某些文件,我们不希望把它们纳入 Git 的管理,也不希望它们总出现在未跟踪文件列表。通常它们都是些自动生成的文件,比如日志文件、编译过程中创建的临时文件等。 通过.gitignore文件 假设我们要忽略 lib.a 文件,那我们可以在 lib.a 所在目录下创建一个名为 .gi

取得 Git 仓库 —— Git 学习笔记 04

取得 Git 仓库 —— Git 学习笔记 04 我认为, Git 的学习分为两大块:一是工作区、索引、本地版本库之间的交互;二是本地版本库和远程版本库之间的交互。第一块是基础,第二块是难点。 下面,我们就围绕着第一部分内容来学习,先不考虑远程仓库,只考虑本地仓库。 怎样取得项目的 Git 仓库? 有两种取得 Git 项目仓库的方法。第一种是在本地创建一个新的仓库,第二种是把其他地方的某个

Git 的特点—— Git 学习笔记 02

文章目录 Git 简史Git 的特点直接记录快照,而非差异比较近乎所有操作都是本地执行保证完整性一般只添加数据 参考资料 Git 简史 众所周知,Linux 内核开源项目有着为数众多的参与者。这么多人在世界各地为 Linux 编写代码,那Linux 的代码是如何管理的呢?事实是在 2002 年以前,世界各地的开发者把源代码通过 diff 的方式发给 Linus,然后由 Linus