小样本学习登Nature!计算效率高170倍,彻底起飞

2024-04-23 20:52

本文主要是介绍小样本学习登Nature!计算效率高170倍,彻底起飞,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

中科院新提出的社会行为图谱SBeA登上Nature子刊!

SBeA是一个用于多动物3D姿势估计、身份识别和社会行为分类的小样本学习框架,能够全面量化自由群居动物的行为,使用较少的标记帧数(约 400 帧)进行多动物三维姿态估计。

结果显示SBeA成功地量化了社会行为模块的聚类性能,可以有效的分类社会行为。

在多动物身份识别方面,SBeA的准确率超过 90%。这类小样本学习方法能够在有限的数据情况下训练模型,降低收集和标注数据的成本,同时加快模型的开发和部署速度,让模型能够学习到更加泛化的特征,提高对新任务或类别的适应性和识别能力

因此,小样本学习一直是重要的研究方向。这次我整理了16个小样本学习创新方案,来自近一年高引用的顶会文章,原文以及开源代码已附,方便同学们复现。

论文原文以及开源代码需要的同学看文末

Multi-animal 3D social pose estimation, identification and behaviour embedding with a few-shot learning framework

方法:论文介绍了一种名为SBeA的多动物三维姿态跟踪和社交行为映射方法。该方法旨在全面量化自由社交动物的行为。除此之外,研究还提出了一种基于多视图几何的方法用于多动物的三维重建。通过该方法可以计算出多个动物的三维坐标。此外,研究还使用SBeA方法对Shank3B基因敲除小鼠进行了社交行为的识别。

创新点:

  • 通过使用多视角摄像机阵列进行视频捕获和人工标注,作者开发了一个名为SBeA的计算框架,用于多动物三维姿势估计、无标签识别和无监督动态学习等任务。

  • 作者提出了角度谱聚类的方法来减少社交行为模块的冗余,并通过基于特征角度分离的方式合并社交行为模块。

  • 作者利用SBeA成功鉴定了自闭症谱系障碍基因突变小鼠的异常社交行为表型,并发现了新的社交行为表型,如好奇行为和独立梳理行为。

GPr-Net: Geometric Prototypical Network for Point Cloud Few-Shot Learning

方法:论文提出了一种轻量级的几何原型网络(GPr-Net),利用局部几何特征和超几何空间来实现高效的点云少样本学习。在ModelNet40数据集上,GPr-Net相比现有方法具有5%更高的准确率和170倍较少的参数。

创新点:

  • 提出了一种轻量级的几何原型网络(GPr-Net),用于点云少样本学习。该方法利用手工设计的矢量化内在几何解释器和拉普拉斯向量来提取和评估点云的形态,从而改进了少样本学习的表示。此外,拉普拉斯向量使得可以从含有较少点的点云中提取有价值的特征。为了解决少样本度量学习中的分布漂移挑战,作者利用双曲空间,证明了他们的方法比现有的点云少样本学习方法更好地处理类内和类间方差。

  • 提出了一种新的视角来处理点云少样本学习,挑战了复杂的网络设计和训练策略的假设。他们的方法通过采用简单而有效的几何特征,包括内在几何解释器和拉普拉斯向量,来捕捉点云的内在拓扑结构,并在ModelNet40数据集上取得了优越的性能。

Frequency Guidance Matters in Few-Shot Learning

方法:在论文中,研究了不同频率成分对小样本学习任务的影响,并提出了一种新的频率引导的小样本学习框架(FGFL),该框架利用任务特定的频率成分来自适应地掩蔽相应的图像信息,采用了一种新颖的多级度量学习策略,包括原始图像、掩蔽图像和未掩蔽图像之间的三元损失,以及掩蔽和原始支持集和查询集之间的对比损失,以利用更具有判别性的信息。

创新点:

  • 频率引导的少样本学习(FGFL)框架:该框架利用任务特定的频率组件自适应地遮蔽相应的图像信息,包括原始、遮蔽和未遮蔽图像之间的三元损失以及遮蔽和原始支持和查询集之间的对比损失,以利用更有区分性的信息。

  • 多层度量学习策略:包括样本级三元损失和类级对比损失,能够更好地利用样本和任务级别的频率信息,并鼓励模型捕捉更多与任务相关的频率信息,从而提高空间域中的分类性能。

Multimodality Helps Unimodality: Cross-Modal Few-Shot Learning with Multimodal Models

方法:论文利用了最近的多模态基础模型,如CLIP,将不同模态映射到相同的表示空间,并提出了一种简单的跨模态适应方法,从不同模态的少样本示例中学习。通过利用额外的类别名称作为额外的一次训练样本,研究人员在视觉-语言适应中取得了最新的结果。

创新点:

  • 跨模态自适应是作者提出的最重要的创新之一。作者提出了一种简单的跨模态自适应方法,通过将不同模态的样本视为额外的少样本示例来实现。这种方法将原来的“n-shot”问题转化为“(n+1)-shot”问题,取得了令人瞩目的结果,并且可以应用于现有的微调方法或者其他模态。

  • 跨模态学习解决了少样本学习的不确定性问题。作者通过使用现有的文本标签作为免费的训练样本来证明了这一点。跨模态学习的一个吸引人的方面是,学习的模型自然适用于多模态的测试数据,如同时包含视觉和音频信号的视频的分类。

关注下方《学姐带你玩AI》🚀🚀🚀

回复“小样本创新”获取全部论文+代码

码字不易,欢迎大家点赞评论收藏

这篇关于小样本学习登Nature!计算效率高170倍,彻底起飞的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/929863

相关文章

HarmonyOS学习(七)——UI(五)常用布局总结

自适应布局 1.1、线性布局(LinearLayout) 通过线性容器Row和Column实现线性布局。Column容器内的子组件按照垂直方向排列,Row组件中的子组件按照水平方向排列。 属性说明space通过space参数设置主轴上子组件的间距,达到各子组件在排列上的等间距效果alignItems设置子组件在交叉轴上的对齐方式,且在各类尺寸屏幕上表现一致,其中交叉轴为垂直时,取值为Vert

Ilya-AI分享的他在OpenAI学习到的15个提示工程技巧

Ilya(不是本人,claude AI)在社交媒体上分享了他在OpenAI学习到的15个Prompt撰写技巧。 以下是详细的内容: 提示精确化:在编写提示时,力求表达清晰准确。清楚地阐述任务需求和概念定义至关重要。例:不用"分析文本",而用"判断这段话的情感倾向:积极、消极还是中性"。 快速迭代:善于快速连续调整提示。熟练的提示工程师能够灵活地进行多轮优化。例:从"总结文章"到"用

【前端学习】AntV G6-08 深入图形与图形分组、自定义节点、节点动画(下)

【课程链接】 AntV G6:深入图形与图形分组、自定义节点、节点动画(下)_哔哩哔哩_bilibili 本章十吾老师讲解了一个复杂的自定义节点中,应该怎样去计算和绘制图形,如何给一个图形制作不间断的动画,以及在鼠标事件之后产生动画。(有点难,需要好好理解) <!DOCTYPE html><html><head><meta charset="UTF-8"><title>06

学习hash总结

2014/1/29/   最近刚开始学hash,名字很陌生,但是hash的思想却很熟悉,以前早就做过此类的题,但是不知道这就是hash思想而已,说白了hash就是一个映射,往往灵活利用数组的下标来实现算法,hash的作用:1、判重;2、统计次数;

零基础学习Redis(10) -- zset类型命令使用

zset是有序集合,内部除了存储元素外,还会存储一个score,存储在zset中的元素会按照score的大小升序排列,不同元素的score可以重复,score相同的元素会按照元素的字典序排列。 1. zset常用命令 1.1 zadd  zadd key [NX | XX] [GT | LT]   [CH] [INCR] score member [score member ...]

【机器学习】高斯过程的基本概念和应用领域以及在python中的实例

引言 高斯过程(Gaussian Process,简称GP)是一种概率模型,用于描述一组随机变量的联合概率分布,其中任何一个有限维度的子集都具有高斯分布 文章目录 引言一、高斯过程1.1 基本定义1.1.1 随机过程1.1.2 高斯分布 1.2 高斯过程的特性1.2.1 联合高斯性1.2.2 均值函数1.2.3 协方差函数(或核函数) 1.3 核函数1.4 高斯过程回归(Gauss

poj 1113 凸包+简单几何计算

题意: 给N个平面上的点,现在要在离点外L米处建城墙,使得城墙把所有点都包含进去且城墙的长度最短。 解析: 韬哥出的某次训练赛上A出的第一道计算几何,算是大水题吧。 用convexhull算法把凸包求出来,然后加加减减就A了。 计算见下图: 好久没玩画图了啊好开心。 代码: #include <iostream>#include <cstdio>#inclu

uva 1342 欧拉定理(计算几何模板)

题意: 给几个点,把这几个点用直线连起来,求这些直线把平面分成了几个。 解析: 欧拉定理: 顶点数 + 面数 - 边数= 2。 代码: #include <iostream>#include <cstdio>#include <cstdlib>#include <algorithm>#include <cstring>#include <cmath>#inc

uva 11178 计算集合模板题

题意: 求三角形行三个角三等分点射线交出的内三角形坐标。 代码: #include <iostream>#include <cstdio>#include <cstdlib>#include <algorithm>#include <cstring>#include <cmath>#include <stack>#include <vector>#include <

【学习笔记】 陈强-机器学习-Python-Ch15 人工神经网络(1)sklearn

系列文章目录 监督学习:参数方法 【学习笔记】 陈强-机器学习-Python-Ch4 线性回归 【学习笔记】 陈强-机器学习-Python-Ch5 逻辑回归 【课后题练习】 陈强-机器学习-Python-Ch5 逻辑回归(SAheart.csv) 【学习笔记】 陈强-机器学习-Python-Ch6 多项逻辑回归 【学习笔记 及 课后题练习】 陈强-机器学习-Python-Ch7 判别分析 【学