首页
Python
Java
前端
数据库
Linux
Chatgpt专题
开发者工具箱
mmseg4j专题
全文索引----中文分词器mmseg4j
通常情况下,我们根据整个字段来索引数据,字段最长时,也不过十个字;但是还有一种情况,如果我们索引的是一篇文章呢?这时候如何处理这个字段,分词器很好的解决了这个问题。 solr服务器默认为我们提供了分词组件,但是Apache Solr提供的分词器对中文不太友好,举例如下: 它把整个句子的每个字都给分开了,这样如果索引一篇文章的
阅读更多...
Solr6+中文分词(mmseg4j)
在搭建Solr服务器的基础上(http://blog.csdn.net/u010379996/article/details/51790743) 1. 下载mmseg4j包和字典(.dic) 2. 搭建mmseg4j中文分词 在Solr_Home创建dic文件夹,并把mmseg4j的.dic文件复制到此 下载mmseg4j-solr-2.3.0.jar, mmseg4j-core-1.1
阅读更多...
Lucene中文分词mmseg4j
mmseg4j 用 Chih-Hao Tsai 的 MMSeg 算法实现的中文分词器,并实现 lucene 的 analyzer 和 solr 的TokenizerFactory 以方便在Lucene和Solr中使用。 MMSeg 算法有两种分词方法:Simple和Complex,都是基于正向最大匹配。Complex 加了四个规则过虑。官方说:词语的正确识别率达到了 98.41%。mmseg4j
阅读更多...
mmseg4j中文分词包使用报告
目录 认识中文分词包(下载、安装及运行)分词方法与效果分析分词算法学习分词结果提交(2017/5/24完善方法2)基于分词结果的词云分析 1.认识中文分词包(下载、安装及运行) 1.1 简介 mmseg4j 用 Chih-Hao Tsai 的 MMSeg 算法实现的中文分词器,并实现 lucene 的 analyzer 和 solr 的TokenizerFactory 以方便在Lucene和
阅读更多...
Jetty加载solr-5.1.0 并且添加mmseg4j分词器
1.下载solr-5.1.0后进入到 solr-5.1.0\server目录下 新建一个start.bat文件用来启动jetty内容如下 echo "begin start the jetty......" java -jar %cd%/start.jar 这里我下载的放在了百度云中 链接:http://pan.baidu.com/s/1nuv31Sd 密码:bk
阅读更多...
跟益达学Solr5之使用MMSeg4J分词器
要想在Sor中使用MMSeg4J分词器,首先你需要自定义一个TokenizerFactory实现类,虽然直接配置Analyzer类也可以,但那样无法配置Analyzer构造函数的参数,不够灵活,存在弊端,所以我一直都是以扩展TokenizerFactory的方式来讲解类似MMSeg4J这样的中文分词器在Solr中的使用。 MMSegTokenizerFactory类我花
阅读更多...