使用Stanford NLP工具实现中文命名实体识别

2024-01-25 07:48

本文主要是介绍使用Stanford NLP工具实现中文命名实体识别,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

一、     系统配置

Eclipseluna、 JDK 1.8+

二、分词介绍

使用斯坦福大学的分词器,下载地址http://nlp.stanford.edu/software/segmenter.shtml,从上面链接中下载stanford-segmenter-2014-10-26,解压之后,如下图所示



data目录下有两个gz压缩文件,分别是ctb.gz和pku.gz,其中CTB:宾州大学的中国树库训练资料 ,PKU:中国北京大学提供的训练资料。


三、     NER

使用斯坦福大学的NER,下载地址:http://nlp.stanford.edu/software/CRF-NER.shtml,在该页面下分别下载stanford-ner-2014-10-26和stanford-ner-2012-11-11-chinese两个包。

解压后分别可以看到:




同时下载commons-io-2.4.jar、commons-lang3-3.3.2.jar、junit-4.10.jar三个Java包。

四、     中文命名实体识别

新建Java项目,将data目录拷贝到项目根路径下,再把stanford-ner-2012-11-11-chinese解压的内容全部拷贝到classifiers文件夹下,将第三步中的三个Java包以及stanford NER和分词器的Java包都导入classpath中,然后,在:http://nlp.stanford.edu/software/ corenlp.shtml下载stanford-corenlp-full-2014-10-31,将解压之后的stanford-corenlp-3.5.0也加入到classpath之中。将stanfordner中src添加到项目目录下,并添加一下两个代码:


ExtractDemo.java

importedu.stanford.nlp.ie.AbstractSequenceClassifier;

importedu.stanford.nlp.ie.crf.CRFClassifier;

importedu.stanford.nlp.ling.CoreLabel;

 

/*

ClassNameExtractDemo

加载NER模块

*/

   publicclassExtractDemo

   {

   privatestaticAbstractSequenceClassifier<CoreLabel>ner;

   publicExtractDemo()

      {

      InitNer();

      }

   publicvoidInitNer()

   {

      String serializedClassifier ="classifiers/chinese.misc.distsim.crf.ser.gz";//chinese.misc.distsim.crf.ser.gz

      if (ner ==null)

         {

         ner =CRFClassifier.getClassifierNoExceptions(serializedClassifier);

         }

   }

   public StringdoNer(Stringsent)

      {

      returnner.classifyWithInlineXML(sent);

      }

   publicstaticvoid main(Stringargs[])

      {

      String str = "今天下雨,不去打球。";

      ExtractDemoextractDemo =newExtractDemo();    System.out.println(extractDemo.doNer(str));

      System.out.println("Complete!");

      }

}

 

 

ZH_SegDemo.java

 

importjava.io.File;

importjava.io.IOException;

importjava.util.Properties;

importorg.apache.commons.io.FileUtils;

importedu.stanford.nlp.ie.crf.CRFClassifier;

importedu.stanford.nlp.ling.CoreLabel;

/*

* ClassNameZH_SegDemo

* Description 使用StanfordCoreNLP进行中文实体识别

*/

public class ZH_SegDemo {

public staticCRFClassifier<CoreLabel>segmenter;

static {

// 设置一些初始化参数

Propertiesprops = new Properties();

props.setProperty("sighanCorporaDict","data");

props.setProperty("serDictionary","data/dict-chris6.ser.gz");

props.setProperty("inputEncoding","UTF-8");

props.setProperty("sighanPostProcessing","true");

segmenter = newCRFClassifier<CoreLabel>(props);

segmenter.loadClassifierNoExceptions("data/ctb.gz",props);

segmenter.flags.setProperties(props);

}

public static String doSegment(String sent) {

String[] strs =(String[]) segmenter.segmentString(sent).toArray();

StringBufferbuf= new StringBuffer();

for (String s :strs) {

buf.append(s +" ");

}

System.out.println("segmentedres: " + buf.toString());

returnbuf.toString();

}

public staticvoid main(String[] args) {

try {

StringreadFileToString = FileUtils.readFileToString(newFile("IFENG-8.txt"));

StringdoSegment = doSegment(readFileToString);

System.out.println(doSegment);

ExtractDemoextractDemo= new ExtractDemo();

System.out.println(extractDemo.doNer(doSegment));

System.out.println("Complete!");

} catch(IOException e) {

e.printStackTrace();

}

}

}

最后项目结构如下:


运行结果如下:


这篇关于使用Stanford NLP工具实现中文命名实体识别的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/642575

相关文章

使用Python删除Excel中的行列和单元格示例详解

《使用Python删除Excel中的行列和单元格示例详解》在处理Excel数据时,删除不需要的行、列或单元格是一项常见且必要的操作,本文将使用Python脚本实现对Excel表格的高效自动化处理,感兴... 目录开发环境准备使用 python 删除 Excphpel 表格中的行删除特定行删除空白行删除含指定

深入理解Go语言中二维切片的使用

《深入理解Go语言中二维切片的使用》本文深入讲解了Go语言中二维切片的概念与应用,用于表示矩阵、表格等二维数据结构,文中通过示例代码介绍的非常详细,需要的朋友们下面随着小编来一起学习学习吧... 目录引言二维切片的基本概念定义创建二维切片二维切片的操作访问元素修改元素遍历二维切片二维切片的动态调整追加行动态

Linux下删除乱码文件和目录的实现方式

《Linux下删除乱码文件和目录的实现方式》:本文主要介绍Linux下删除乱码文件和目录的实现方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录linux下删除乱码文件和目录方法1方法2总结Linux下删除乱码文件和目录方法1使用ls -i命令找到文件或目录

prometheus如何使用pushgateway监控网路丢包

《prometheus如何使用pushgateway监控网路丢包》:本文主要介绍prometheus如何使用pushgateway监控网路丢包问题,具有很好的参考价值,希望对大家有所帮助,如有错误... 目录监控网路丢包脚本数据图表总结监控网路丢包脚本[root@gtcq-gt-monitor-prome

SpringBoot+EasyExcel实现自定义复杂样式导入导出

《SpringBoot+EasyExcel实现自定义复杂样式导入导出》这篇文章主要为大家详细介绍了SpringBoot如何结果EasyExcel实现自定义复杂样式导入导出功能,文中的示例代码讲解详细,... 目录安装处理自定义导出复杂场景1、列不固定,动态列2、动态下拉3、自定义锁定行/列,添加密码4、合并

mybatis执行insert返回id实现详解

《mybatis执行insert返回id实现详解》MyBatis插入操作默认返回受影响行数,需通过useGeneratedKeys+keyProperty或selectKey获取主键ID,确保主键为自... 目录 两种方式获取自增 ID:1. ​​useGeneratedKeys+keyProperty(推

Spring Boot集成Druid实现数据源管理与监控的详细步骤

《SpringBoot集成Druid实现数据源管理与监控的详细步骤》本文介绍如何在SpringBoot项目中集成Druid数据库连接池,包括环境搭建、Maven依赖配置、SpringBoot配置文件... 目录1. 引言1.1 环境准备1.2 Druid介绍2. 配置Druid连接池3. 查看Druid监控

Python通用唯一标识符模块uuid使用案例详解

《Python通用唯一标识符模块uuid使用案例详解》Pythonuuid模块用于生成128位全局唯一标识符,支持UUID1-5版本,适用于分布式系统、数据库主键等场景,需注意隐私、碰撞概率及存储优... 目录简介核心功能1. UUID版本2. UUID属性3. 命名空间使用场景1. 生成唯一标识符2. 数

Linux在线解压jar包的实现方式

《Linux在线解压jar包的实现方式》:本文主要介绍Linux在线解压jar包的实现方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录linux在线解压jar包解压 jar包的步骤总结Linux在线解压jar包在 Centos 中解压 jar 包可以使用 u

SpringBoot中如何使用Assert进行断言校验

《SpringBoot中如何使用Assert进行断言校验》Java提供了内置的assert机制,而Spring框架也提供了更强大的Assert工具类来帮助开发者进行参数校验和状态检查,下... 目录前言一、Java 原生assert简介1.1 使用方式1.2 示例代码1.3 优缺点分析二、Spring Fr