计算机语言学笔记(二)现代汉语切分研究

2024-04-07 02:38

本文主要是介绍计算机语言学笔记(二)现代汉语切分研究,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

2 现代汉语词语切分研究

汉语自动切分:把字串自动转换为词串。
英语中的切分更容易。

2.1 为什么要进行汉语切分

TTS或语音合成中,只有正确切词才能知道正确的发音,只有正确的切词,才能正确变音,只有正确切词,才能解决轻声问题。
信息检索中,切分有助于提高信息检索的准确率。
词语的计量分析中,可以进行词频统计。
等等等等…
汉语切词也是深层汉语分析的基础。

2.2 基本方法

最大匹配法:正向最大匹配法(从左向右匹配词典)和逆向最大匹配法(从右向左匹配词典)。
算法非常简单,长词优先。

2.3 自动切分的评价

准确率:正确分词数/所有分词数*100%
召回率:
F-评价:综合准确率和召回率的评价指标。

2.4 关键问题

切分歧义(消解):一个字串有不止一种切分结果。(交集型歧义)(组合型歧义)(混合型歧义)
未登录词识别:专有名词,新词。
真歧义:在不同的语境中确实有多重切分形式。
伪歧义:看起来有歧义,但是在所有真实语境中仅有一种切分形式可接受。
事实上,真实文本中伪歧义现象远远多于真歧义现象。

2.5 歧义的发现

歧义的发现:歧义消解的前提是发现歧义,检测到歧义切分现象。
MM和RMM均没有检测歧义的能力,只能给出一种切分结果。
最短路径法:选择次数最少的切分结果,没有歧义检测能力。

双向最大匹配:(MM+RMM):同时采用MM法和RMM法,若给出同样的结果,则认为没有歧义,反之,认为发生了歧义。但是双向最大匹配法不能发现所有的歧义。
MM+逆向最小匹配法。
全切分算法:依据词表给出输入文本的所有可能的切分结果。

2.6 歧义消解

基于记忆的歧义消解:鉴于伪歧义的消解与上下文无关,可以将正确的切分形式记录在一张表中,其歧义消解通过直接查表即可实现。
基于规则的歧义消解。
基于统计的歧义消解:在词图上寻找统计意义上的最佳路径。

2.7 未登录词识别

未登录词识别困难,没有明确边界,许多构成单元本身可以独立成词。
每一类未登录词都要构造专门的识别算法。
识别依据:内部构成规律和外部环境。
对于中国人名地名识别叫成熟,对于商标字号机构名识别困难,对于专业术语和缩略语以及新词语识别很困难。

这篇关于计算机语言学笔记(二)现代汉语切分研究的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/881452

相关文章

无人叉车3d激光slam多房间建图定位异常处理方案-墙体画线地图切分方案

墙体画线地图切分方案 针对问题:墙体两侧特征混淆误匹配,导致建图和定位偏差,表现为过门跳变、外月台走歪等 ·解决思路:预期的根治方案IGICP需要较长时间完成上线,先使用切分地图的工程化方案,即墙体两侧切分为不同地图,在某一侧只使用该侧地图进行定位 方案思路 切分原理:切分地图基于关键帧位置,而非点云。 理论基础:光照是直线的,一帧点云必定只能照射到墙的一侧,无法同时照到两侧实践考虑:关

【学习笔记】 陈强-机器学习-Python-Ch15 人工神经网络(1)sklearn

系列文章目录 监督学习:参数方法 【学习笔记】 陈强-机器学习-Python-Ch4 线性回归 【学习笔记】 陈强-机器学习-Python-Ch5 逻辑回归 【课后题练习】 陈强-机器学习-Python-Ch5 逻辑回归(SAheart.csv) 【学习笔记】 陈强-机器学习-Python-Ch6 多项逻辑回归 【学习笔记 及 课后题练习】 陈强-机器学习-Python-Ch7 判别分析 【学

系统架构师考试学习笔记第三篇——架构设计高级知识(20)通信系统架构设计理论与实践

本章知识考点:         第20课时主要学习通信系统架构设计的理论和工作中的实践。根据新版考试大纲,本课时知识点会涉及案例分析题(25分),而在历年考试中,案例题对该部分内容的考查并不多,虽在综合知识选择题目中经常考查,但分值也不高。本课时内容侧重于对知识点的记忆和理解,按照以往的出题规律,通信系统架构设计基础知识点多来源于教材内的基础网络设备、网络架构和教材外最新时事热点技术。本课时知识

计算机毕业设计 大学志愿填报系统 Java+SpringBoot+Vue 前后端分离 文档报告 代码讲解 安装调试

🍊作者:计算机编程-吉哥 🍊简介:专业从事JavaWeb程序开发,微信小程序开发,定制化项目、 源码、代码讲解、文档撰写、ppt制作。做自己喜欢的事,生活就是快乐的。 🍊心愿:点赞 👍 收藏 ⭐评论 📝 🍅 文末获取源码联系 👇🏻 精彩专栏推荐订阅 👇🏻 不然下次找不到哟~Java毕业设计项目~热门选题推荐《1000套》 目录 1.技术选型 2.开发工具 3.功能

论文阅读笔记: Segment Anything

文章目录 Segment Anything摘要引言任务模型数据引擎数据集负责任的人工智能 Segment Anything Model图像编码器提示编码器mask解码器解决歧义损失和训练 Segment Anything 论文地址: https://arxiv.org/abs/2304.02643 代码地址:https://github.com/facebookresear

数学建模笔记—— 非线性规划

数学建模笔记—— 非线性规划 非线性规划1. 模型原理1.1 非线性规划的标准型1.2 非线性规划求解的Matlab函数 2. 典型例题3. matlab代码求解3.1 例1 一个简单示例3.2 例2 选址问题1. 第一问 线性规划2. 第二问 非线性规划 非线性规划 非线性规划是一种求解目标函数或约束条件中有一个或几个非线性函数的最优化问题的方法。运筹学的一个重要分支。2

【C++学习笔记 20】C++中的智能指针

智能指针的功能 在上一篇笔记提到了在栈和堆上创建变量的区别,使用new关键字创建变量时,需要搭配delete关键字销毁变量。而智能指针的作用就是调用new分配内存时,不必自己去调用delete,甚至不用调用new。 智能指针实际上就是对原始指针的包装。 unique_ptr 最简单的智能指针,是一种作用域指针,意思是当指针超出该作用域时,会自动调用delete。它名为unique的原因是这个

查看提交历史 —— Git 学习笔记 11

查看提交历史 查看提交历史 不带任何选项的git log-p选项--stat 选项--pretty=oneline选项--pretty=format选项git log常用选项列表参考资料 在提交了若干更新,又或者克隆了某个项目之后,你也许想回顾下提交历史。 完成这个任务最简单而又有效的 工具是 git log 命令。 接下来的例子会用一个用于演示的 simplegit

记录每次更新到仓库 —— Git 学习笔记 10

记录每次更新到仓库 文章目录 文件的状态三个区域检查当前文件状态跟踪新文件取消跟踪(un-tracking)文件重新跟踪(re-tracking)文件暂存已修改文件忽略某些文件查看已暂存和未暂存的修改提交更新跳过暂存区删除文件移动文件参考资料 咱们接着很多天以前的 取得Git仓库 这篇文章继续说。 文件的状态 不管是通过哪种方法,现在我们已经有了一个仓库,并从这个仓

忽略某些文件 —— Git 学习笔记 05

忽略某些文件 忽略某些文件 通过.gitignore文件其他规则源如何选择规则源参考资料 对于某些文件,我们不希望把它们纳入 Git 的管理,也不希望它们总出现在未跟踪文件列表。通常它们都是些自动生成的文件,比如日志文件、编译过程中创建的临时文件等。 通过.gitignore文件 假设我们要忽略 lib.a 文件,那我们可以在 lib.a 所在目录下创建一个名为 .gi