Lucene 实例教程(三)之操作索引

2024-03-16 01:32

本文主要是介绍Lucene 实例教程(三)之操作索引,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

转自作者:永恒の_☆ 地址:http://blog.csdn.net/chenghui0317/article/details/10281311


最近研究数据库模糊查询,发现oracle数据库中虽然可以用instr来替代like提高效率,但是这个效率提高是有瓶颈的,可以用搜索引擎技术来进一步提高查询效率

一、 前言

       前面简单介绍了如何使用Lucene将索引 写入磁盘,并且提供IKAnalyzer中文分词器操作索引和检索索引文件,地址:http://blog.csdn.net/chenghui0317/article/details/10281311

       在项目实战中,这还不能完全解决一些比较棘手的问题,比如:

       1、之前介绍了如何写入索引,但是没有提供删除索引和修改索引的操作,所以索引文件的累加会产生脏数据或者数据重复。


二、使用Lucene实战


1、使用Lucene操作索引文件

实现的思路如下:

   <1> 原先使用的IndexReader操作索引不是很方便,只有执行IndexReader.Close()时,删除操作才会被真正执行,并且这种方式的IndexReader实例方法被改为过期的方法,所以这种方式不可取;

   <2> 既然写入索引的时候使用的是IndexWriter索引写入器,同样删除和修改也一样使用它来完成;

   <3> 写入索引的实现方式:还是跟以前一样 使用IndexWriter写入器调用addDocument()即可;

   <4> 删除索引的实现方式:需要先判断一下索引文件是否存在,如果存在使用IndexWriter写入器调用deleteDocument()即可;

   <5> 修改索引的实现方式:由于IndexWriter写入器没有直接提供updateDocument(),所以可以先将要修改前的索引删除了然后再写入修改后的索引,实现效果一样;

   <6> 最后不要忘记把IndexWriter 关闭了,否则资源一直被占用,浪费内存开销。

具体代码如下:

[java]  view plain copy
print ?
  1. package com.lucene.test;  
  2.   
  3. import java.io.File;  
  4. import java.io.IOException;  
  5. import java.text.SimpleDateFormat;  
  6. import java.util.Date;  
  7.   
  8. import org.apache.lucene.analysis.Analyzer;  
  9. import org.apache.lucene.document.Document;  
  10. import org.apache.lucene.document.Field;  
  11. import org.apache.lucene.index.CorruptIndexException;  
  12. import org.apache.lucene.index.IndexReader;  
  13. import org.apache.lucene.index.IndexWriter;  
  14. import org.apache.lucene.index.IndexWriterConfig;  
  15. import org.apache.lucene.index.Term;  
  16. import org.apache.lucene.queryParser.ParseException;  
  17. import org.apache.lucene.queryParser.QueryParser;  
  18. import org.apache.lucene.search.Query;  
  19. import org.apache.lucene.store.Directory;  
  20. import org.apache.lucene.store.LockObtainFailedException;  
  21. import org.apache.lucene.store.SimpleFSDirectory;  
  22. import org.apache.lucene.util.Version;  
  23. import org.wltea.analyzer.lucene.IKAnalyzer;  
  24.   
  25. import com.lucene.entity.Article;  
  26.   
  27. /** 
  28.  * Lucene 检索和操作索引的例子 
  29.  * @author Administrator 
  30.  * 
  31.  */  
  32. public class OperateIndexDemo {  
  33.       
  34.     public static final String INDEX_DIR_PATH = "indexDir";  
  35.     /* 创建简单中文分析器 创建索引使用的分词器必须和查询时候使用的分词器一样,否则查询不到想要的结果 */  
  36.     private Analyzer analyzer = null;  
  37.     // 索引保存目录  
  38.     private File indexFile = null;  
  39.     //目录对象,因为操作索引文件都要用到它,所以定义为全局变量  
  40.     private Directory directory = null;  
  41.     //创建IndexWriter索引写入器  
  42.     IndexWriterConfig indexWriterConfig = null;  
  43.       
  44.     SimpleDateFormat simpleDateFormat = null;  
  45.       
  46.     /** 
  47.      * 初始化方法 
  48.      * @throws IOException  
  49.      */  
  50.     public void init() throws IOException{  
  51.         analyzer = new IKAnalyzer(true);  
  52.         indexFile = new File(INDEX_DIR_PATH);  
  53.         directory = new SimpleFSDirectory(indexFile);  
  54.           
  55.         simpleDateFormat = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss");  
  56.         System.out.println("*****************初始化成功**********************");  
  57.     }  
  58.       
  59.     /** 
  60.      * 将article对象的属性全部封装成document对象,重构之后方便创建索引 
  61.      * @param article 
  62.      * @return 
  63.      */  
  64.     public Document createDocument(Article article){  
  65.         Document document = new Document();  
  66.         document.add(new Field("id", article.getId().toString(),Field.Store.YES, Field.Index.NOT_ANALYZED));  
  67.         document.add(new Field("title", article.getTitle().toString(),Field.Store.YES, Field.Index.ANALYZED));  
  68.         document.add(new Field("content", article.getContent().toString(),Field.Store.YES, Field.Index.ANALYZED));  
  69.           
  70.         return document;  
  71.     }  
  72.       
  73.     /** 
  74.      * 获得指定格式的时间字符串 
  75.      * @return 
  76.      */  
  77.     public String getDate(){  
  78.         return simpleDateFormat.format(new Date());  
  79.     }  
  80.   
  81.     /** 
  82.      * 为了如实反映操作索引文件之后的效果,每次操作之后查询索引目录下所有的索引内容 
  83.      * @throws IOException  
  84.      * @throws CorruptIndexException  
  85.      */  
  86.     public void openIndexFile() throws CorruptIndexException, IOException{  
  87.         System.out.println("*****************读取索引开始**********************");  
  88.         IndexReader indexReader = IndexReader.open(directory);  
  89.         int docLength = indexReader.maxDoc();  
  90.         for (int i = 0; i < docLength; i++) {  
  91.             Document doc = indexReader.document(i);  
  92.             Article article = new Article();  
  93.             if (doc.get("id") == null) {  
  94.                 System.out.println("id为空");  
  95.             } else {  
  96.                 article.setId(Integer.parseInt(doc.get("id")));  
  97.                 article.setTitle(doc.get("title"));  
  98.                 article.setContent(doc.get("content"));  
  99.             }  
  100.             System.out.println(article);  
  101.         }  
  102.         System.out.println("*****************读取索引结束**********************\n");  
  103.     }  
  104.       
  105.     /** 
  106.      * 创建索引到索引文件中 
  107.      * @param article 
  108.      * @throws IOException  
  109.      * @throws LockObtainFailedException  
  110.      * @throws CorruptIndexException  
  111.      */  
  112.     public void createIndex(Article article) throws CorruptIndexException, LockObtainFailedException, IOException{  
  113.         indexWriterConfig = new IndexWriterConfig(Version.LUCENE_36, analyzer);  
  114.         IndexWriter indexWriter = new IndexWriter(directory, indexWriterConfig);  
  115.         indexWriter.addDocument(createDocument(article));  
  116.           
  117.         indexWriter.close();  
  118.         System.out.println("[ " + getDate() + " ] Lucene写入索引到 [" + indexFile.getAbsolutePath() + "] 成功。");  
  119.     }  
  120.       
  121.     /** 
  122.      * 根据文件中的id删除对应的索引文件 
  123.      * @param contentId 
  124.      * @throws IOException  
  125.      * @throws ParseException  
  126.      */  
  127.     public void deleteIndex(String contentId) throws IOException, ParseException{  
  128.         //判断索引文件目录内容是否有索引,有返回true ,没有返回false  
  129.         if(IndexReader.indexExists(directory)){   
  130.             indexWriterConfig = new IndexWriterConfig(Version.LUCENE_36, analyzer);  
  131.             IndexWriter indexWriter = new IndexWriter(directory, indexWriterConfig);  
  132.             //封装term去检索字段名为id ,具体值为contentId的记录,如果存在就会删除,否则什么都不做  
  133.             indexWriter.deleteDocuments(new Term("id",contentId));  
  134.             /* 
  135.             QueryParser queryParser = new QueryParser(Version.LUCENE_36, "id", analyzer); 
  136.             Query query = queryParser.parse(contentId); 
  137.             indexWriter.deleteDocuments(query); 
  138.             */  
  139.             indexWriter.close();  
  140.             System.out.println("[ " + getDate() + " ] Lucene删除索引到 [" + indexFile.getAbsolutePath() + "] 成功。");  
  141.         }else{  
  142.             throw new IOException("[ " + getDate() + " ] Lucene删除索引失败,在 " + indexFile.getAbsolutePath() + "目录中没有找到索引文件。" );  
  143.         }  
  144.     }  
  145.       
  146.     /** 
  147.      * 由于实际的内容修改,所以索引文件也要跟着修改 ,具体实现方式就是先删除索引,然后重新添加 
  148.      * @param article 
  149.      * @throws IOException  
  150.      * @throws ParseException  
  151.      */  
  152.     public void updateIndex(Article article) throws IOException, ParseException{  
  153.         deleteIndex(article.getId().toString());  
  154.         createIndex(article);  
  155.     }  
  156.     /** 
  157.      * 销毁当前的操作类的实现,主要关闭资源的连接 
  158.      *  
  159.      * @throws IOException  
  160.      */  
  161.     public void destory() throws IOException{  
  162.         analyzer.close();  
  163.         directory.close();  
  164.         System.out.println("*****************销毁成功**********************");  
  165.     }  
  166.       
  167.     public static void main(String[] args) {  
  168.         OperateIndexDemo luceneInstance = new OperateIndexDemo();  
  169.         try {  
  170.             luceneInstance.init();//初始化  
  171.               
  172.             Article article = new Article(1,"标题不是很长","内容也不长。但是句号很长。。。。。。。。。。");  
  173.             luceneInstance.createIndex(article);  
  174.             luceneInstance.openIndexFile();  
  175.               
  176.             luceneInstance.deleteIndex("1");  
  177.             luceneInstance.openIndexFile();  
  178.               
  179.             //article = new Article(1,"修改之后的标题","内容变短了");  
  180.             //luceneInstance.updateIndex(article);  
  181.             //luceneInstance.openIndexFile();  
  182.         } catch (IOException e) {  
  183.             e.printStackTrace();  
  184.         } catch (ParseException e) {  
  185.             e.printStackTrace();  
  186.         }finally{  
  187.             try {  
  188.                 luceneInstance.destory();//销毁  
  189.             } catch (IOException e) {  
  190.                 e.printStackTrace();  
  191.             }  
  192.         }  
  193.     }  
  194. }  

上面的代码 做了一些重构和优化,每一个方法都只做一件事情,分工非常明确。

    init()  ------> 用于实例化全局的变量;

    createDocument(Article article)  ------> 用于将article对象的属性全部封装成document对象,重构之后方便创建索引;

    openIndexFile()  ------> 为了如实反映操作索引文件之后的效果,每次操作之后查询索引目录下所有的索引内容;

    createIndex(Article article)  ------> 用于将索引写入磁盘中;

    deleteIndex(String contentId)  ------> 用于将索引文件的索引删除;

    updateIndex(Article article)  ------> 用于修改索引文件中的索引;

    destory()  ------> 用于释放资源 关闭目录连接。

    <1>首先,调用createDocument(Article article) ,具体效果如下:

根据提示,然后看到索引文件目录,表明 索引已经写入成功了。

另外需要说明的是:

    1、每次操作的 IndexWriterConfig的实例不能被使用两次以上,否则如下错误:

Exception in thread "main" org.apache.lucene.util.SetOnce$AlreadySetException: The object cannot be set twice!

所以只能实例化后用一次,即使是同一类型的操作也不行。


    2、整个应用程序的执行周期是:(1)实例化;    (2)初始化;    (3)具体操作;    (4)销毁。    

如果directory已经关闭还继续操作directory目录对象,就会报如下错误:

Exception in thread "main" org.apache.lucene.store.AlreadyClosedException: this Directory is closed



    <2>接下里看看deleteIndex(String contentId)这个方法,先要判断索引文件内是否有索引文件,如果有 则会去索引目录下找对应的索引,有则会删除,没有则什么都不做。

具体可以实践一下,先把索引文件在索引目录中全部删除,然后执行deleteIndex(String contentId)方法,具体效果如下:



然后重新写入索引之后,并且删除是指定添加的article 的id ,再执行以下,具体效果如下:

删除之后再查询索引文件,发现已经没有对应的记录了,表明索引删除成功。另外如果删除的时候指定一个不存在的id,可以看到Lucene什么都不会做。


另外,根据eclipse的方法提示如下:

该方法支持Term 和Query的重载,并且参数个数没有上限,所以IndexWriter提供的deleteDocuments方法既支持单个索引的删除也支持多个索引的删除,只需要满足条件即可。  

现在把indexWriter.deleteDocuments(new Term("id",contentId));注释掉,替换取消下面注释的代码,然后在运行一下删除操作,具体效果和上面的一样,所以两种传参显示删除索引的方法都可以显示删除索引。  并且使用Term 的实例删除一般用于单个索引的删除,使用Query的实例删除一般用于单个以上的索引删除。


    <3>最后看看updateIndex(Article article),该方法最简单,直接调用createIndex(Article article) 和 deleteIndex(String contentId) ,为什么IndexWriter没有提供update方法,可能是因为索引写入到索引文件之后就不允许破坏其存储结构,也许数据表记录的修改操作也是一样,先删除再新增。

执行该方法的具体效果图如下:


根据图中最后打开索引的结果显示 索引已经被修改成功了。


OK,操作索引的基本功能已经全部实现了。     纸上读来终觉浅,绝知此事要躬行。

这篇关于Lucene 实例教程(三)之操作索引的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/813903

相关文章

Python实现对阿里云OSS对象存储的操作详解

《Python实现对阿里云OSS对象存储的操作详解》这篇文章主要为大家详细介绍了Python实现对阿里云OSS对象存储的操作相关知识,包括连接,上传,下载,列举等功能,感兴趣的小伙伴可以了解下... 目录一、直接使用代码二、详细使用1. 环境准备2. 初始化配置3. bucket配置创建4. 文件上传到os

mysql表操作与查询功能详解

《mysql表操作与查询功能详解》本文系统讲解MySQL表操作与查询,涵盖创建、修改、复制表语法,基本查询结构及WHERE、GROUPBY等子句,本文结合实例代码给大家介绍的非常详细,感兴趣的朋友跟随... 目录01.表的操作1.1表操作概览1.2创建表1.3修改表1.4复制表02.基本查询操作2.1 SE

MySQL之InnoDB存储引擎中的索引用法及说明

《MySQL之InnoDB存储引擎中的索引用法及说明》:本文主要介绍MySQL之InnoDB存储引擎中的索引用法及说明,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐... 目录1、背景2、准备3、正篇【1】存储用户记录的数据页【2】存储目录项记录的数据页【3】聚簇索引【4】二

c++中的set容器介绍及操作大全

《c++中的set容器介绍及操作大全》:本文主要介绍c++中的set容器介绍及操作大全,本文通过实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧... 目录​​一、核心特性​​️ ​​二、基本操作​​​​1. 初始化与赋值​​​​2. 增删查操作​​​​3. 遍历方

全面解析MySQL索引长度限制问题与解决方案

《全面解析MySQL索引长度限制问题与解决方案》MySQL对索引长度设限是为了保持高效的数据检索性能,这个限制不是MySQL的缺陷,而是数据库设计中的权衡结果,下面我们就来看看如何解决这一问题吧... 目录引言:为什么会有索引键长度问题?一、问题根源深度解析mysql索引长度限制原理实际场景示例二、五大解决

MySQL追踪数据库表更新操作来源的全面指南

《MySQL追踪数据库表更新操作来源的全面指南》本文将以一个具体问题为例,如何监测哪个IP来源对数据库表statistics_test进行了UPDATE操作,文内探讨了多种方法,并提供了详细的代码... 目录引言1. 为什么需要监控数据库更新操作2. 方法1:启用数据库审计日志(1)mysql/mariad

springboot如何通过http动态操作xxl-job任务

《springboot如何通过http动态操作xxl-job任务》:本文主要介绍springboot如何通过http动态操作xxl-job任务的问题,具有很好的参考价值,希望对大家有所帮助,如有错... 目录springboot通过http动态操作xxl-job任务一、maven依赖二、配置文件三、xxl-

MySQL中的索引结构和分类实战案例详解

《MySQL中的索引结构和分类实战案例详解》本文详解MySQL索引结构与分类,涵盖B树、B+树、哈希及全文索引,分析其原理与优劣势,并结合实战案例探讨创建、管理及优化技巧,助力提升查询性能,感兴趣的朋... 目录一、索引概述1.1 索引的定义与作用1.2 索引的基本原理二、索引结构详解2.1 B树索引2.2

python3如何找到字典的下标index、获取list中指定元素的位置索引

《python3如何找到字典的下标index、获取list中指定元素的位置索引》:本文主要介绍python3如何找到字典的下标index、获取list中指定元素的位置索引问题,具有很好的参考价值,... 目录enumerate()找到字典的下标 index获取list中指定元素的位置索引总结enumerat

从入门到精通MySQL 数据库索引(实战案例)

《从入门到精通MySQL数据库索引(实战案例)》索引是数据库的目录,提升查询速度,主要类型包括BTree、Hash、全文、空间索引,需根据场景选择,建议用于高频查询、关联字段、排序等,避免重复率高或... 目录一、索引是什么?能干嘛?核心作用:二、索引的 4 种主要类型(附通俗例子)1. BTree 索引(