学术分享|无惧数据匮乏!上海交大博士后周子宜详解蛋白质语言模型的小样本学习方法 FSFP

本文主要是介绍学术分享|无惧数据匮乏!上海交大博士后周子宜详解蛋白质语言模型的小样本学习方法 FSFP,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

预训练蛋白质语言模型 (PLMs) 能够以无监督的方式学习数百万蛋白质中氨基酸序列的分布特征,在揭示蛋白质序列与其功能之间的隐含关系方面显示出了巨大的潜力。

在此背景下,上海交通大学自然科学研究院/物理天文学院/张江高研院/药学院洪亮教授课题组,联合上海人工智能实验室青年研究员谈攀,开发了一种针对蛋白质语言模型的小样本学习方法,能够在使用极少数湿实验数据的情况下大幅提升传统蛋白质语言模型的突变效果预测性能, 在实际应用中显示出了巨大的潜力。

在「Meet AI4S」系列直播第三期中,HyperAI超神经有幸邀请到了该研究成果的论文第一作者——上海交通大学自然科学研究院 & 上海国家应用数学中心博士后周子宜。9 月 25 日,周子宜博士将以线上直播的形式进一步为大家分享蛋白质语言模型的小样本学习方法,探讨 AI 辅助下定向进化的新思路。

点击预约直播:

https://hdxu.cn/6Bjom

扫码备注「AI4S」加入讨论群↓

在这里插入图片描述

活动详情

在这里插入图片描述

分享主题

蛋白质语言模型的小样本学习方法

内容简介

蛋白质语言模型 (PLM) 在蛋白质功能预测方面取得了突破,然而其往往需要大量实验数据微调才能达到较高的精度。本次介绍一种针对 PLM 的小样本学习方法,能在只使用数十个训练样本的情况下显著提升 PLM 的突变效果预测性能。

论文回顾

HyperAI超神经此前曾解读分享了周子宜博士为第一作者的研究论文「Enhancing efficiency of protein language models with minimal wet-lab data through few-shot learning」。

点击查看详细报道:20个实验数据创造AI蛋白质里程碑!上海交大联合上海AI Lab发布FSFP,有效优化蛋白质预训练模型

FSFP 方法包含 3 个阶段

为元学习构建辅助任务 (Build auxiliary tasks for meta-training)、在辅助任务上训练 PLMs (Meta-train PLMs on the auxiliary tasks)、以及将 PLMs 转移到目标任务 (Transfer PLMs to the target task via LTR)。

其中,FSFP 使用 ListMLE 损失来学习对突变适应度进行排名。在每次训练迭代中,把 PLM 对训练样本的预测排列向它们的真实排列修正。该排序学习方法被同时应用于元训练阶段的内部优化和迁移学习阶段。

数据集的获取

该研究选择蛋白质突变数据集 (ProteinGym) 作为基准测试数据集。数据集共包含来自 87 个 DMS 测序实验的大约 150 万个错义变体。

ProteinGym 蛋白质突变数据集下载地址:
https://go.hyper.ai/6GvFD

FSFP 方法评估

  • 在平均性能方面,通过 FSFP 训练的 PLMs 在所有训练数据规模上始终优于其他基线。

  • 在外推性能评估方面,FSFP 训练 PLMs 的 Spearman 相关性评估更优。

  • FSFP 被成功应用于 Phi29 DNA 聚合酶的工程改造,显著提升了阳性率。

观众收益:

  1. 了解 PLM 的基本原理以及在蛋白质工程中的应用

  2. 了解 PLM 的基本原理以及在蛋白质工程中的应用

  3. 探讨 AI 辅助下定向进化的新思路

上海交通大学洪亮课题组

在这里插入图片描述

上海交通大学洪亮课题组隶属于上海交通大学自然科学研究院。课题组研究方向主要为 AI 蛋白和药物设计、分子生物物理,具体包括:

  • 基于人工智能技术的蛋白质定向改造、酶工程定向进化、和辅助药物设计;

  • 中子散射,同步辐射国家大科学装置,单分子荧光,分子动力学模拟和人工智能算法等,研究生物大分子的动力学、生物大分子低温保存技术及原理。

该课题组研究成果颇丰,截止目前共发表研究论文 77 篇,其中多篇登顶 Nature 期刊。

Meet AI4S 系列直播

HyperAI超神经 (hyper.ai) 是中国最⼤的数据科学领域搜索引擎,聚焦 AI for Science 的最新科研成果,实时追踪 Nature、Science 等顶级刊物的学术论文,至今已完成百余篇 AI for Science 论文的解读。

此外,我们还运营了国内唯一 AI for Science 开源项目 awesome-ai4s。

项目地址:

https://github.com/hyperai/awesome-ai4s

为了进一步推进 AI4S 的普适化,将学术机构的科研成果进一步降低传播壁垒,分享给更广泛的行业学者、科技爱好者及产业单位,HyperAI超神经策划了「Meet AI4S」视频栏目,邀请深耕 AI for Science 领域的科研人员或相关单位,以视频的形式分享研究成果、方法思路,共同探讨 AI for Science 在科研进展及推进落地过程中面临的机遇和挑战,促进 AI for Science 的科学普及和传播。

欢迎高效课题组及研究机构共同参与到我们的直播活动中!扫描二维码添加「神经星星」微信,了解详情↓

在这里插入图片描述

这篇关于学术分享|无惧数据匮乏!上海交大博士后周子宜详解蛋白质语言模型的小样本学习方法 FSFP的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1141730

相关文章

Spring 请求之传递 JSON 数据的操作方法

《Spring请求之传递JSON数据的操作方法》JSON就是一种数据格式,有自己的格式和语法,使用文本表示一个对象或数组的信息,因此JSON本质是字符串,主要负责在不同的语言中数据传递和交换,这... 目录jsON 概念JSON 语法JSON 的语法JSON 的两种结构JSON 字符串和 Java 对象互转

最详细安装 PostgreSQL方法及常见问题解决

《最详细安装PostgreSQL方法及常见问题解决》:本文主要介绍最详细安装PostgreSQL方法及常见问题解决,介绍了在Windows系统上安装PostgreSQL及Linux系统上安装Po... 目录一、在 Windows 系统上安装 PostgreSQL1. 下载 PostgreSQL 安装包2.

Python正则表达式语法及re模块中的常用函数详解

《Python正则表达式语法及re模块中的常用函数详解》这篇文章主要给大家介绍了关于Python正则表达式语法及re模块中常用函数的相关资料,正则表达式是一种强大的字符串处理工具,可以用于匹配、切分、... 目录概念、作用和步骤语法re模块中的常用函数总结 概念、作用和步骤概念: 本身也是一个字符串,其中

SQL中redo log 刷⼊磁盘的常见方法

《SQL中redolog刷⼊磁盘的常见方法》本文主要介绍了SQL中redolog刷⼊磁盘的常见方法,将redolog刷入磁盘的方法确保了数据的持久性和一致性,下面就来具体介绍一下,感兴趣的可以了解... 目录Redo Log 刷入磁盘的方法Redo Log 刷入磁盘的过程代码示例(伪代码)在数据库系统中,r

C 语言中enum枚举的定义和使用小结

《C语言中enum枚举的定义和使用小结》在C语言里,enum(枚举)是一种用户自定义的数据类型,它能够让你创建一组具名的整数常量,下面我会从定义、使用、特性等方面详细介绍enum,感兴趣的朋友一起看... 目录1、引言2、基本定义3、定义枚举变量4、自定义枚举常量的值5、枚举与switch语句结合使用6、枚

Nginx location匹配模式与规则详解

《Nginxlocation匹配模式与规则详解》:本文主要介绍Nginxlocation匹配模式与规则,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、环境二、匹配模式1. 精准模式2. 前缀模式(不继续匹配正则)3. 前缀模式(继续匹配正则)4. 正则模式(大

C++如何通过Qt反射机制实现数据类序列化

《C++如何通过Qt反射机制实现数据类序列化》在C++工程中经常需要使用数据类,并对数据类进行存储、打印、调试等操作,所以本文就来聊聊C++如何通过Qt反射机制实现数据类序列化吧... 目录设计预期设计思路代码实现使用方法在 C++ 工程中经常需要使用数据类,并对数据类进行存储、打印、调试等操作。由于数据类

Python实现图片分割的多种方法总结

《Python实现图片分割的多种方法总结》图片分割是图像处理中的一个重要任务,它的目标是将图像划分为多个区域或者对象,本文为大家整理了一些常用的分割方法,大家可以根据需求自行选择... 目录1. 基于传统图像处理的分割方法(1) 使用固定阈值分割图片(2) 自适应阈值分割(3) 使用图像边缘检测分割(4)

Android实现在线预览office文档的示例详解

《Android实现在线预览office文档的示例详解》在移动端展示在线Office文档(如Word、Excel、PPT)是一项常见需求,这篇文章为大家重点介绍了两种方案的实现方法,希望对大家有一定的... 目录一、项目概述二、相关技术知识三、实现思路3.1 方案一:WebView + Office Onl

Java中Switch Case多个条件处理方法举例

《Java中SwitchCase多个条件处理方法举例》Java中switch语句用于根据变量值执行不同代码块,适用于多个条件的处理,:本文主要介绍Java中SwitchCase多个条件处理的相... 目录前言基本语法处理多个条件示例1:合并相同代码的多个case示例2:通过字符串合并多个case进阶用法使用