nlp事件抽取算例实现:(有完整算例和完整代码)

2023-10-24 21:10

本文主要是介绍nlp事件抽取算例实现:(有完整算例和完整代码),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

定义

事件抽取技术是从非结构化信息中抽取出用户感兴趣的事件,并以结构化呈现给用户。事件抽取任务可分解为4个子任务: 触发词识别、事件类型分类、论元识别和角色分类任务。其中,触发词识别和事件类型分类可合并成事件识别任务。论元识别和角色分类可合并成论元角色分类任务。事件识别判断句子中的每个单词归属的事件类型,是一个基于单词的多分类任务。角色分类任务则是一个基于词对的多分类任务,判断句子中任意一对触发词和实体之间的角色关系。

事件抽取任务:

事件有很多种,如因果事件,转则事件。。。
统一定义:一般一个事件都有事件,地点,人物等因素。
事件抽取就是把这些因素提取出来。
不多讲啦,上算例。

算例:

火灾新闻算例:
一个火灾事件新闻我们感兴趣的是 事故发生时间,事故发生地点,事故伤亡,事故原因。
我们把这些抽取出来.顺便再附上事件摘要。
即输入一个火灾事件新闻,输出 事故地点,事故时间,事故伤亡,事故原因,事故摘要。
方法:基于正则。

导入包:

#!/usr/bin/env python3
# -*- coding: utf-8 -*-
# @Author: yudengwu
# @Date  : 2020/6/27
import re

#事故原因:

def pattern_cause(data):"data.type: [文字]"data = str(data)patterns = []key_words = ['起火', '事故', '火灾']pattern = re.compile('.*?(?:{0})原因(.*?)[,.?:;!,。?:;!]'.format('|'.join(key_words)))patterns.append(pattern)for c in patterns:print('事故原因:',c.search(data).group(1))

#事故伤亡:

def pattern_lose(data):"data.type: [文字]"data = str(data)patterns = []key_words = ['伤亡', '损失']pattern = re.compile('.*?(未造成.*?(?:{0}))[,.?:;!,。?:;]'.format('|'.join(key_words)))patterns.append(pattern)patterns.append(re.compile('(\d+人死亡)'))patterns.append(re.compile('(\d+人身亡)'))patterns.append(re.compile('(\d+人受伤)'))patterns.append(re.compile('(\d+人烧伤)'))patterns.append(re.compile('(\d+人坠楼身亡)'))patterns.append(re.compile('(\d+人遇难)'))for i in patterns:jieguo = i.search(data)if not jieguo:passelse:print('事故伤亡:',jieguo.group(1))

#事故时间:

#事故时间:
def pattern_time(data):data = ''.join(test_data)# data.type :strPATTERN = r"([0-9零一二两三四五六七八九十]+年)?([0-9一二两三四五六七八九十]+月)?([0-9一二两三四五六七八九十]+[号日])?([上中下午晚早]+)?([0-9零一二两三四五六七八九十百]+[点:\.时])?([0-9零一二三四五六七八九十百]+分?)?([0-9零一二三四五六七八九十百]+秒)?"pattern = re.compile(PATTERN)m = pattern.search(data)# "19年1月14日18时19分39秒上午"m1 = pattern.search("上午")year=m.group(1) # 年month=m.group(2) # 月day=m.group(3) # 日am=m.group(4)  # 上午,中午,下午,早中晚hour=m.group(5) # 时minutes=m.group(6)  # 分seconds=m.group(7) # 秒print('事故时间: ',year,month,day,am,hour,minutes,seconds)

#事故地点:

#事件地点
def pattern_address(data):data = ''.join(data)#转换格式p_string = data.split(',')#分句address=[]for line in p_string:line = str(line)PATTERN1 = r'([\u4e00-\u9fa5]{2,5}?(?:省|自治区|市)){0,1}([\u4e00-\u9fa5]{2,7}?(?:区|县|州)){0,1}([\u4e00-\u9fa5]{2,7}?(?:镇)){0,1}([\u4e00-\u9fa5]{2,7}?(?:村|街|街道)){0,1}([\d]{1,3}?(号)){0,1}'# \u4e00-\u9fa5 匹配任何中文# {2,5} 匹配2到5次# ? 前面可不匹配# (?:pattern) 如industr(?:y|ies) 就是一个比 'industry|industries' 更简略的表达式。意思就是说括号里面的内容是一个整体是以y或者ies结尾的单词pattern = re.compile(PATTERN1)p1 = ''p2 = ''p3 = ''p4 = ''p5 = ''p6 = ''m = pattern.search(line)if not m:continueelse:address.append(m.group(0))#print('事件地点:',m.group(0))print('事件地点:',set(address))

#事故摘要:
摘要讲解见链接:中文文本摘要提取 (文本摘要提取 有代码)基于python
停用词链接:nlp 中文停用词数据集

def shijian(data):import jiebatext=''.join(data)text = re.sub(r'[[0-9]*]', ' ', text)  # 去除类似[1],[2]text = re.sub(r'\s+', ' ', text)  # 用单个空格替换了所有额外的空格sentences = re.split('(。|!|\!|\.|?|\?)', text)  # 分句# 加载停用词def stopwordslist(filepath):stopwords = [line.strip() for line in open(filepath, 'r', encoding='gbk').readlines()]return stopwordsstopwords = stopwordslist("停用词.txt")# 词频word2count = {}  # line 1for word in jieba.cut(text):  # 对整个文本分词if word not in stopwords:if word not in word2count.keys():word2count[word] = 1else:word2count[word] += 1for key in word2count.keys():word2count[key] = word2count[key] / max(word2count.values())# 计算句子得分sent2score = {}for sentence in sentences:for word in jieba.cut(sentence):if word in word2count.keys():if len(sentence) < 300:if sentence not in sent2score.keys():sent2score[sentence] = word2count[word]else:sent2score[sentence] += word2count[word]# 字典排序def dic_order_value_and_get_key(dicts, count):# by hellojesson# 字典根据value排序,并且获取value排名前几的keyfinal_result = []# 先对字典排序sorted_dic = sorted([(k, v) for k, v in dicts.items()], reverse=True)tmp_set = set()  # 定义集合 会去重元素 --此处存在一个问题,成绩相同的会忽略,有待改进for item in sorted_dic:tmp_set.add(item[1])for list_item in sorted(tmp_set, reverse=True)[:count]:for dic_item in sorted_dic:if dic_item[1] == list_item:final_result.append(dic_item[0])return final_result# 摘要输出final_resul = dic_order_value_and_get_key(sent2score, 5)print('事件主要意思:',final_resul)

#主函数:

def main(data):pattern_cause(data)pattern_lose(data)pattern_time(data)pattern_address(data)shijian(data)
if __name__ =='__main__':#读取数据with open('新闻.txt', 'r', encoding='utf-8') as f:test_data = f.readlines()main(test_data)

数据集:新闻.txt

1月14日18时19分,宝鸡市渭滨区金陵街道机厂街社区铁路家属院17号楼一单元发生火灾,火势由二、三、四阳台向上蔓延,一名老人被困屋内,情况危急。宝鸡消防支队渭滨大队广元路中队接警后,迅速赶赴现场展开救援,将被困老人救出。记者了解到,火灾发生后,宝鸡消防支队渭滨大队广元路中队立即赶赴现场开展救援,经现场侦查发现,火势由二、三、四楼阳台向上蔓延,均已过火。由于小区内道路蜿蜒且狭窄,中队立即调派经一路、开元、宝光、电子街4个卫星消防站增援。中队到场后立即成立搜救组、灭火组、供水组开展救援工作。消防在搜救过程中发现1单元2楼南户有一名老人被困,中队立即进行营救,同时并对2单元30余名群众进行疏散。灭火小组从小区南北两侧对现场火势进行打压。铁塔路及新华路中队随后也赶到现场增援,20时10分现场明火被扑灭。火灾未造成人员伤亡,起火原因正在调查中。

运行结果
在这里插入图片描述
事件主题意思在下面:

截个全图看下:
在这里插入图片描述
运行结果还不错。
反思
这代码是针对国内新闻的,因为地址正则是针对国内地址的。
代码马马虎虎,不是很完善。针对其他类新闻和文本,则需修改下正则(如事事故伤亡可能没有)。
基于正则需要花费大量脑力。基于正则主要在于如何定义规则。
有时间还是想想基于模型吧。
电气工程的计算机萌新:余登武。写文章不容易。如果你喜欢本文章,请点个赞支持下写作,谢谢。
在这里插入图片描述
在这里插入图片描述

这篇关于nlp事件抽取算例实现:(有完整算例和完整代码)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/277767

相关文章

C++使用栈实现括号匹配的代码详解

《C++使用栈实现括号匹配的代码详解》在编程中,括号匹配是一个常见问题,尤其是在处理数学表达式、编译器解析等任务时,栈是一种非常适合处理此类问题的数据结构,能够精确地管理括号的匹配问题,本文将通过C+... 目录引言问题描述代码讲解代码解析栈的状态表示测试总结引言在编程中,括号匹配是一个常见问题,尤其是在

Java实现检查多个时间段是否有重合

《Java实现检查多个时间段是否有重合》这篇文章主要为大家详细介绍了如何使用Java实现检查多个时间段是否有重合,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录流程概述步骤详解China编程步骤1:定义时间段类步骤2:添加时间段步骤3:检查时间段是否有重合步骤4:输出结果示例代码结语作

使用C++实现链表元素的反转

《使用C++实现链表元素的反转》反转链表是链表操作中一个经典的问题,也是面试中常见的考题,本文将从思路到实现一步步地讲解如何实现链表的反转,帮助初学者理解这一操作,我们将使用C++代码演示具体实现,同... 目录问题定义思路分析代码实现带头节点的链表代码讲解其他实现方式时间和空间复杂度分析总结问题定义给定

Java覆盖第三方jar包中的某一个类的实现方法

《Java覆盖第三方jar包中的某一个类的实现方法》在我们日常的开发中,经常需要使用第三方的jar包,有时候我们会发现第三方的jar包中的某一个类有问题,或者我们需要定制化修改其中的逻辑,那么应该如何... 目录一、需求描述二、示例描述三、操作步骤四、验证结果五、实现原理一、需求描述需求描述如下:需要在

如何使用Java实现请求deepseek

《如何使用Java实现请求deepseek》这篇文章主要为大家详细介绍了如何使用Java实现请求deepseek功能,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录1.deepseek的api创建2.Java实现请求deepseek2.1 pom文件2.2 json转化文件2.2

Java调用DeepSeek API的最佳实践及详细代码示例

《Java调用DeepSeekAPI的最佳实践及详细代码示例》:本文主要介绍如何使用Java调用DeepSeekAPI,包括获取API密钥、添加HTTP客户端依赖、创建HTTP请求、处理响应、... 目录1. 获取API密钥2. 添加HTTP客户端依赖3. 创建HTTP请求4. 处理响应5. 错误处理6.

python使用fastapi实现多语言国际化的操作指南

《python使用fastapi实现多语言国际化的操作指南》本文介绍了使用Python和FastAPI实现多语言国际化的操作指南,包括多语言架构技术栈、翻译管理、前端本地化、语言切换机制以及常见陷阱和... 目录多语言国际化实现指南项目多语言架构技术栈目录结构翻译工作流1. 翻译数据存储2. 翻译生成脚本

如何通过Python实现一个消息队列

《如何通过Python实现一个消息队列》这篇文章主要为大家详细介绍了如何通过Python实现一个简单的消息队列,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录如何通过 python 实现消息队列如何把 http 请求放在队列中执行1. 使用 queue.Queue 和 reque

Python如何实现PDF隐私信息检测

《Python如何实现PDF隐私信息检测》随着越来越多的个人信息以电子形式存储和传输,确保这些信息的安全至关重要,本文将介绍如何使用Python检测PDF文件中的隐私信息,需要的可以参考下... 目录项目背景技术栈代码解析功能说明运行结php果在当今,数据隐私保护变得尤为重要。随着越来越多的个人信息以电子形

使用 sql-research-assistant进行 SQL 数据库研究的实战指南(代码实现演示)

《使用sql-research-assistant进行SQL数据库研究的实战指南(代码实现演示)》本文介绍了sql-research-assistant工具,该工具基于LangChain框架,集... 目录技术背景介绍核心原理解析代码实现演示安装和配置项目集成LangSmith 配置(可选)启动服务应用场景