医疗知识图谱工程研究记录

2024-08-28 04:52

本文主要是介绍医疗知识图谱工程研究记录,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

医疗诊断知识图谱

本项目是基于知识图谱的知识问答项目。过程为对问句进行解析,形成若干三元组及相关的操作条件,转换为查询语句,查询数据库返回结果。

KBQA方式的问答包括意图分析、标签(实体、操作符)识别、条件体与目标体识别、查询语句生成等几个关键步骤。

https://mp.weixin.qq.com/s/F-_qyHTsPtlrK77JgWidoA

1.意图分析

1)基于词典规则的意图分类

收集一下能明显区分问题类型的关键词集合,对输入的问句进行词语匹配或者设定规则。

如下医疗问题的分类,根据这些关键词分不同类型

image-20220908110817195

2)基于学习模型的意图分类

通过预先对问句进行意图标注,形成一定规模的标注数据集,然后通过构造分类器进行训练,然后得到分类结果。可以用CNN或者LSTM做意图分类。分类包含单分类,也可能包含多标签分类。例如:我今天为啥会头痛,该怎么办,包含“发病原因 和治疗措施 两个意图,需要多标签分类任务来处理。

一 工程1

/work/myCode/KBQA/MedicalKG/QASystemOnMedicalKG-master

源代码来源: https://github.com/liuhuanyong/QASystemOnMedicalKG/tree/master/data

1.1 配置
python3  (mac本地,conda activate python3)
py2neo
pyahocorasick  
1.2 用法
step0: neo4j start (启动neo4j)
step1:nohup python build_medicalgraph.py   (将数据导入neo4j图数据库中,大约需要几小时)
step2:python chatbot_graph.py (启动知识图谱诊断应用)

数据库情况

image-20220920113639717

问答展示:

image-20220920113705105

代码结构

image-20220711170144146

1.3 主要内容

1.对用户输入的query,做问题分类,分类主要靠关键词匹配,匹配到症状,原因,饮食,药物,预防。。等

image-20220711172146744

2.对输入的query,根据问题关键词,将query转为查询语句sql

image-20220711172225999

3.根据查询语句,从图数据库中查询出答案,并调用回复模板来返回。

image-20220711172342691

image-20220711172355927

1.4 存在的问题

1,不支持多轮问答,每轮问答都需要写明问的实体,“感冒怎么治疗” “感冒是什么,怎么治疗” 这种就不行。

2.实体链接不丰富,“头痛”可以支持,“头疼”就不行。

3.代码里写入了太多数据方面的定义,不好扩展到其他领域。

4.不能解决复合问句

二 工程2

/work/myCode/KBQA/MedicalKG/KBQA-for-Diagnosis-main
2.1 源码
https://github.com/wangle1218/KBQA-for-Diagnosis
2.2 用法:
step0: neo4j start (启动neo4j)
step1:nohup python build_kg/build_kg_utils.py    (将数据导入neo4j图数据库中,大约需要几小时)
step2:python start_app.py (启动知识图谱诊断应用)
2.3 主要内容
  1. 将json格式的数据导入图数据库中,此处数据来源就是上一个工程,medical.json

    build_kg/build_kg_utils.py 导入数据脚本
    ./graph_data/medical.json 数据路径
    
  2. 使用分类模型,来判断输入query是闲聊类问题,还是医疗诊断问题。分类模型由sklearn 库中的逻辑回归和gdbt实现,两种模型的预测结果概率值做平均,以此来区分是否是闲聊,以及闲聊的类别

    代码:nlu/sklearn_Classification
    模型训练:train.py 
    模型预测:clf_model.py
    函数:clf_model.predict(text)/nlu/sklearn_Classification/data/intent_recog_data.txt 中定义了闲聊类别:greet,goodbye,accept等
    
  3. 对诊断类问题,由意图识别模型判断是哪种意图。模型由bert训练

    代码:nlu/bert_intent_recognition
    模型训练:train.py
    模型构建:bert_model.py
    模型预测服务:app.py  基于flask的服务,可以单独运行
    意图类别:label中,细分为:定义,病因,预防,传染性,治愈率,治疗时间等。
    

    意图识别是先搭建flask服务,再从端口获取意图结果

    image-20220711175514706

4.对诊断类问题,获取对应的slot

image-20220920110331743

image-20220920110410067

需要提前标注数据,训练slot模型。模型用bilstm+crf来训练

代码:knowledge_extraction/bilstm_crf
基于knowledge_extraction/bilstm_crf的slot模型训练
模型训练:train.py
服务:app.py
slot标签定义:knowledge_extraction/bilstm_crf/checkpoint/diseases.json

5.对诊断类问题,根据意图和slot,获取答案。此处根据意图置信度做了确认和拒绝回答的处理。

当意图置信度达到一定阈值时(>=0.8),可以查询该意图下的答案
当意图置信度较低时(0.4~0.8),按最高置信度的意图查找答案,询问用户是否问的这个问题
当意图置信度更低时(<0.4),拒绝回答

6.如果是确定的问题,根据slot获取对应的cql语句,然后进行数据库查询,返回答案

cql语句模板定义:config.py

image-20220711180908511

​ 根据组织好的cql语句,在数据库中查询

image-20220711180957232

image-20220711181031243

2.4 其他目录
entity_normalization  实体对齐目录,定义了同一病症不同的说法
faiss_index   一种检索方法,包含数据
knowledge_extraction 知识抽取目录,包含了bert服务部署,bilstm-crf做slot训练,CasRel (??)
nlu/slotgate_slu 基于slotgate的slot训练。包含数据
doc :一些论文介绍
2.5 一些报错:
1.错误1

image-20220712165133106

解决:降低keras的版本

pip install keras==2.3.1
2.错误2

image-20240827143406284

解决

pip install 'h5py<3.0.0' -i https://pypi.tuna.tsinghua.edu.cn/simple
3.错误3:

image-20240827143345230

解决:

该报错的文件中import部分,
import keras  改为  import tensorflow.keras
4.报错4

image-20240827143259049

启动知识图谱服务时候报错,端口不支持

原因分析:

使用python连接neo4j数据库时出现了该问题, 原因是py2neo的版本太高。

解决:

下载低版本(如4.3.0)

pip install py2neo==4.3.0 -i https://pypi.douban.com/simple
5.报错5

image-20240827143318681

原因:numpy版本较老,版本不匹配。

解决:

pip install numpy --upgrade --user

三 其他医疗知识图谱构建结构图

3.1 糖尿病知识图谱

数据:https://tianchi.aliyun.com/dataset/dataDetail?dataId=88836

比赛: https://tianchi.aliyun.com/forum?spm=5176.21852664.0.0.44f867963jprX7#raceId=231687

image-20220907152014327

image-20220907152025749

3.2 中文医疗知识图谱 https://tianchi.aliyun.com/dataset/dataDetail?spm=5176.12282016.0.0.681c6d92qv5NDw&dataId=954143.3 医疗知识图谱各个实体解析 https://schema.omaha.org.cn/class/ClinicalFinding  汇知医学知识图谱数据 http://wiki.omaha.org.cn/pages/viewpage.action?pageId=31424961病人事件图谱 https://luckyxuli.github.io/peg/#/**运维行车设备知识图谱 http://openkg.cn/dataset/qm-data** 中药说明书实体识别数据集 https://tianchi.aliyun.com/dataset/dataDetail?dataId=86819中医文献问题生成数据集 http://openkg.cn/dataset/tcm-qg数控机床故障诊断知识图谱 https://github.com/wangrenyisme/Shukongdashi在线故障诊断平台比赛 http://www.cnsoftbei.com/plus/view.php?aid=353基于故障诊断的问答系统 https://github.com/LiuYuhanMIO/QA机械故障数据集 https://github.com/hustcxl/Rotating-machine-fault-data-set

这篇关于医疗知识图谱工程研究记录的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1113785

相关文章

使用 sql-research-assistant进行 SQL 数据库研究的实战指南(代码实现演示)

《使用sql-research-assistant进行SQL数据库研究的实战指南(代码实现演示)》本文介绍了sql-research-assistant工具,该工具基于LangChain框架,集... 目录技术背景介绍核心原理解析代码实现演示安装和配置项目集成LangSmith 配置(可选)启动服务应用场景

关于Spring @Bean 相同加载顺序不同结果不同的问题记录

《关于Spring@Bean相同加载顺序不同结果不同的问题记录》本文主要探讨了在Spring5.1.3.RELEASE版本下,当有两个全注解类定义相同类型的Bean时,由于加载顺序不同,最终生成的... 目录问题说明测试输出1测试输出2@Bean注解的BeanDefiChina编程nition加入时机总结问题说明

将sqlserver数据迁移到mysql的详细步骤记录

《将sqlserver数据迁移到mysql的详细步骤记录》:本文主要介绍将SQLServer数据迁移到MySQL的步骤,包括导出数据、转换数据格式和导入数据,通过示例和工具说明,帮助大家顺利完成... 目录前言一、导出SQL Server 数据二、转换数据格式为mysql兼容格式三、导入数据到MySQL数据

关于rpc长连接与短连接的思考记录

《关于rpc长连接与短连接的思考记录》文章总结了RPC项目中长连接和短连接的处理方式,包括RPC和HTTP的长连接与短连接的区别、TCP的保活机制、客户端与服务器的连接模式及其利弊分析,文章强调了在实... 目录rpc项目中的长连接与短连接的思考什么是rpc项目中的长连接和短连接与tcp和http的长连接短

Oracle查询优化之高效实现仅查询前10条记录的方法与实践

《Oracle查询优化之高效实现仅查询前10条记录的方法与实践》:本文主要介绍Oracle查询优化之高效实现仅查询前10条记录的相关资料,包括使用ROWNUM、ROW_NUMBER()函数、FET... 目录1. 使用 ROWNUM 查询2. 使用 ROW_NUMBER() 函数3. 使用 FETCH FI

Python MySQL如何通过Binlog获取变更记录恢复数据

《PythonMySQL如何通过Binlog获取变更记录恢复数据》本文介绍了如何使用Python和pymysqlreplication库通过MySQL的二进制日志(Binlog)获取数据库的变更记录... 目录python mysql通过Binlog获取变更记录恢复数据1.安装pymysqlreplicat

关于Java内存访问重排序的研究

《关于Java内存访问重排序的研究》文章主要介绍了重排序现象及其在多线程编程中的影响,包括内存可见性问题和Java内存模型中对重排序的规则... 目录什么是重排序重排序图解重排序实验as-if-serial语义内存访问重排序与内存可见性内存访问重排序与Java内存模型重排序示意表内存屏障内存屏障示意表Int

Servlet中配置和使用过滤器的步骤记录

《Servlet中配置和使用过滤器的步骤记录》:本文主要介绍在Servlet中配置和使用过滤器的方法,包括创建过滤器类、配置过滤器以及在Web应用中使用过滤器等步骤,文中通过代码介绍的非常详细,需... 目录创建过滤器类配置过滤器使用过滤器总结在Servlet中配置和使用过滤器主要包括创建过滤器类、配置过滤

正则表达式高级应用与性能优化记录

《正则表达式高级应用与性能优化记录》本文介绍了正则表达式的高级应用和性能优化技巧,包括文本拆分、合并、XML/HTML解析、数据分析、以及性能优化方法,通过这些技巧,可以更高效地利用正则表达式进行复杂... 目录第6章:正则表达式的高级应用6.1 模式匹配与文本处理6.1.1 文本拆分6.1.2 文本合并6

python与QT联合的详细步骤记录

《python与QT联合的详细步骤记录》:本文主要介绍python与QT联合的详细步骤,文章还展示了如何在Python中调用QT的.ui文件来实现GUI界面,并介绍了多窗口的应用,文中通过代码介绍... 目录一、文章简介二、安装pyqt5三、GUI页面设计四、python的使用python文件创建pytho