基于特征融合与注意力机制的药物互作模型:MDF-SA-DDI

2024-03-11 00:08

本文主要是介绍基于特征融合与注意力机制的药物互作模型:MDF-SA-DDI,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

论文题目:MDF-SA-DDI: predicting drug–drug interaction events based on multi-source drug fusion, multi-source feature fusion and ransformer self-attention mechanism

论文来源: Briefings in Bioinformatics,00(00), 2021,1–13

网址:https://academic.oup.com/bib/advance-article-abstract/doi/10.1093/bib/bbab421/6406700?redirectedFrom=fulltext

代码: GitHub - ShenggengLin/MDF-SA-DDI

主要内容:使用多源药物融合,多源特征融合和Transformer进行药物互作预测

  • 四个网络+多头自注意力机制
    • 孪生网络
    • 卷积神经网络
    • 两个自动编码器

药物互作相关

  • 为什么要进行药物互作的研究
    • 大多数人类疾病病理复杂,对单一的药物都有抗药性。使用联合药物治疗可以有效提高药效,降低耐药性。
    • 但是,不同的药物之间可能会发生相互作用(drug–drug interaction, DDI),可能会导致不良事件。
    • 而每两种药都进行试验验证过于昂贵,因而使用计算机进行模拟的研究显得比较重要了。
  • 主流方法:(1)基于机器学习的方法;(2)基于深度学习的方法;(3)基于矩阵分解的方法;(4)基于网络扩散的方法;(5)基于集成学习的方法;(6)基于文献或文本挖掘的方法。
  • 以往方法的问题
    1. 大多基于深度学习技术,将两个药物向量连接在一起预测DDI事件,而没有尝试其他方法来融合药物对的信息
    2. 大多数方法在预测已知药物之间未观察到的相互作用方面表现良好,很难预测新药之间未被观察到的相互作用

提出方法:MDF-SA-DDI

  • 具体内容
    1. 孪生网络(Siamese Network,SN),将两种药物的特征输入其中,得到的两个向量作为药物对的新特征。需要注意的是,这两个向量表示的是每个药物各自的特征
    2. 卷积神经网络(CN),将两个药物特征拼接,然后将其进行卷积,得到药物对的潜在特征
    3. 自动编码器(AE1),将两个特征向量拼接起来,然后通过自动编码器得到特征
    4. 自动编码器(AE2),将两个特征向量按照元素相加,然后通过自动编码器得到特征
    • 自注意力层:将上述四个向量,过一个多头自注意力模块进行特征融合
    • 全连接:将上述得到的特征过一个全连接层,得到最后的药物互作事件

  • 由于数据集特征过多,直接使用容易得到维数灾难,基于类似药物可能与相同的药物相互作用的假设,文章直接使用了Jaccard近似

实验及结果

  • 三种实验,相应任务中的新药表示在训练集中缺失,但在测试集中存在
    1. 预测已知药物之间未观察到的相互作用事件(任务1)
    2. 预测已知药物与新药之间的相互作用事件(任务2)
    3. 预测新药之间的相互作用事件(任务3)

这篇关于基于特征融合与注意力机制的药物互作模型:MDF-SA-DDI的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/795965

相关文章

一份LLM资源清单围观技术大佬的日常;手把手教你在美国搭建「百万卡」AI数据中心;为啥大模型做不好简单的数学计算? | ShowMeAI日报

👀日报&周刊合集 | 🎡ShowMeAI官网 | 🧡 点赞关注评论拜托啦! 1. 为啥大模型做不好简单的数学计算?从大模型高考数学成绩不及格说起 司南评测体系 OpenCompass 选取 7 个大模型 (6 个开源模型+ GPT-4o),组织参与了 2024 年高考「新课标I卷」的语文、数学、英语考试,然后由经验丰富的判卷老师评判得分。 结果如上图所

大语言模型(LLMs)能够进行推理和规划吗?

大语言模型(LLMs),基本上是经过强化训练的 n-gram 模型,它们在网络规模的语言语料库(实际上,可以说是我们文明的知识库)上进行了训练,展现出了一种超乎预期的语言行为,引发了我们的广泛关注。从训练和操作的角度来看,LLMs 可以被认为是一种巨大的、非真实的记忆库,相当于为我们所有人提供了一个外部的系统 1(见图 1)。然而,它们表面上的多功能性让许多研究者好奇,这些模型是否也能在通常需要系

Linux系统稳定性的奥秘:探究其背后的机制与哲学

在计算机操作系统的世界里,Linux以其卓越的稳定性和可靠性著称,成为服务器、嵌入式系统乃至个人电脑用户的首选。那么,是什么造就了Linux如此之高的稳定性呢?本文将深入解析Linux系统稳定性的几个关键因素,揭示其背后的技术哲学与实践。 1. 开源协作的力量Linux是一个开源项目,意味着任何人都可以查看、修改和贡献其源代码。这种开放性吸引了全球成千上万的开发者参与到内核的维护与优化中,形成了

人工和AI大语言模型成本对比 ai语音模型

这里既有AI,又有生活大道理,无数渺小的思考填满了一生。 上一专题搭建了一套GMM-HMM系统,来识别连续0123456789的英文语音。 但若不是仅针对数字,而是所有普通词汇,可能达到十几万个词,解码过程将非常复杂,识别结果组合太多,识别结果不会理想。因此只有声学模型是完全不够的,需要引入语言模型来约束识别结果。让“今天天气很好”的概率高于“今天天汽很好”的概率,得到声学模型概率高,又符合表达

智能客服到个人助理,国内AI大模型如何改变我们的生活?

引言 随着人工智能(AI)技术的高速发展,AI大模型越来越多地出现在我们的日常生活和工作中。国内的AI大模型在过去几年里取得了显著的进展,不少独创的技术点和实际应用令人瞩目。 那么,国内的AI大模型有哪些独创的技术点?它们在实际应用中又有哪些出色表现呢?此外,普通人又该如何利用这些大模型提升工作和生活的质量和效率呢?本文将为你一一解析。 一、国内AI大模型的独创技术点 多模态学习 多

Spring中事务的传播机制

一、前言 首先事务传播机制解决了什么问题 Spring 事务传播机制是包含多个事务的方法在相互调用时,事务是如何在这些方法间传播的。 事务的传播级别有 7 个,支持当前事务的:REQUIRED、SUPPORTS、MANDATORY; 不支持当前事务的:REQUIRES_NEW、NOT_SUPPORTED、NEVER,以及嵌套事务 NESTED,其中 REQUIRED 是默认的事务传播级别。

OpenCompass:大模型测评工具

大模型相关目录 大模型,包括部署微调prompt/Agent应用开发、知识库增强、数据库增强、知识图谱增强、自然语言处理、多模态等大模型应用开发内容 从0起步,扬帆起航。 大模型应用向开发路径:AI代理工作流大模型应用开发实用开源项目汇总大模型问答项目问答性能评估方法大模型数据侧总结大模型token等基本概念及参数和内存的关系大模型应用开发-华为大模型生态规划从零开始的LLaMA-Factor

模型压缩综述

https://www.cnblogs.com/shixiangwan/p/9015010.html

AI学习指南机器学习篇-朴素贝叶斯处理连续特征和离散特征

AI学习指南机器学习篇-朴素贝叶斯处理连续特征和离散特征 在机器学习领域,朴素贝叶斯是一种常用的分类算法,它的简单性和高效性使得它在实际应用中得到了广泛的应用。然而,在使用朴素贝叶斯算法进行分类时,我们通常会面临一个重要的问题,就是如何处理连续特征和离散特征。因为朴素贝叶斯算法基于特征的条件独立性假设,所以对于不同类型的特征,我们需要采取不同的处理方式。 在本篇博客中,我们将探讨如何有效地处理

AI赋能天气:微软研究院发布首个大规模大气基础模型Aurora

编者按:气候变化日益加剧,高温、洪水、干旱,频率和强度不断增加的全球极端天气给整个人类社会都带来了难以估计的影响。这给现有的天气预测模型提出了更高的要求——这些模型要更准确地预测极端天气变化,为政府、企业和公众提供更可靠的信息,以便做出及时的准备和响应。为了应对这一挑战,微软研究院开发了首个大规模大气基础模型 Aurora,其超高的预测准确率、效率及计算速度,实现了目前最先进天气预测系统性能的显著