稳态视觉诱发电位 (SSVEP) 分类学习系列 (4) :Temporal-Spatial Transformer

本文主要是介绍稳态视觉诱发电位 (SSVEP) 分类学习系列 (4) :Temporal-Spatial Transformer,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

稳态视觉诱发电位分类学习系列:Temporal-Spatial Transformer

  • 0. 引言
  • 1. 主要贡献
  • 2. 提出的方法
    • 2.1 解码的主要步骤
    • 2.2 网络的主要结构
  • 3. 结果和讨论
    • 3.1 在两个数据集下的分类效果
    • 3.2 与基线模型的比较
    • 3.3 消融实验
    • 3.4 t-SNE 可视化
  • 4. 总结
  • 欢迎来稿

论文地址:https://www.sciencedirect.com/science/article/abs/pii/S1746809423007929
论文题目:Temporal–spatial transformer based motor imagery classification for BCI using independent component analysis
论文代码:暂无

0. 引言

脑电图数据的复杂性可变性低信噪比在解码这些信号方面提出了重大挑战,尤其是在以与受试者无关的方式解码时。为了克服这些挑战,我们提出了一种基于transformer的方法,该方法采用自注意力过程来提取时间和空间域中的特征。为了在 MI EEG 通道之间建立空间相关性,自注意力模块通过平均所有通道的特征来定期更新每个通道。这种加权平均可提高分类准确性,并消除手动选择通道产生的伪影。此外,时间自注意力机制全局顺序信息编码到每个采样时间步长的特征中,从而可以从MI EEG数据中提取时域中的高级时间属性。

总的来说:本文对于位置编码的应用有了新的理解,感兴趣的同学可以进行尝试来验证该策略的好坏。。。

1. 主要贡献

  1. 该文提出一种基于Transformer编码器的具有注意力机制的神经网络。
  2. 纳入了一种为特征通道分配权重的方法。
  3. 对公共数据集 2a 和 2b 的验证表明,所提出的模型具有竞争力。

2. 提出的方法

在这里插入图片描述

2.1 解码的主要步骤

解码的主要步骤:

  1. 数据预处理。进行ICA处理和Zscore标准化
  2. 时间变压器模块。普通transformer结构。
  3. 空间变压器模块。与时间变压器模块相似,只不过加入了数据的空间位置信息(Positional embedding)。
  4. 分类模块。

2.2 网络的主要结构

具体网络结构如下图所示:
在这里插入图片描述

3. 结果和讨论

3.1 在两个数据集下的分类效果

2a/2b 数据集的精度召回率F1 分数
在这里插入图片描述

3.2 与基线模型的比较

在这里插入图片描述

3.3 消融实验

带 TT MSA 的 TST:仅对时间变压器 (TT) 层进行多自注意,无需添加 ICA 滤波器。
TST:具有多自注意力机制的时间变压器(TT)和空间变压器(ST)层,无需ICA滤波器。
TST-ICA:ICA滤波后具有多自注意力机制的时间变换器(TT)和空间变换器(ST)层。

在这里插入图片描述

3.4 t-SNE 可视化

t分布随机邻居嵌入(t-SNE)可视化技术将提取的脑电图特征转换为二维嵌入空间

(a) 分类前的数据分配。(b) 时间变换块后的数据分布。(c) 空间变换块后的数据分布。(d) 分类后的数据分配。
在这里插入图片描述

4. 总结

到此,使用 稳态视觉诱发电位 (SSVEP) 分类学习系列 (4) :Temporal-Spatial Transformer 已经介绍完毕了!!! 如果有什么疑问欢迎在评论区提出,对于共性问题可能会后续添加到文章介绍中。

如果觉得这篇文章对你有用,记得点赞、收藏并分享给你的小伙伴们哦😄。

欢迎来稿

欢迎投稿合作,投稿请遵循科学严谨、内容清晰明了的原则!!!! 有意者可以后台私信!!

这篇关于稳态视觉诱发电位 (SSVEP) 分类学习系列 (4) :Temporal-Spatial Transformer的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/938056

相关文章

HarmonyOS学习(七)——UI(五)常用布局总结

自适应布局 1.1、线性布局(LinearLayout) 通过线性容器Row和Column实现线性布局。Column容器内的子组件按照垂直方向排列,Row组件中的子组件按照水平方向排列。 属性说明space通过space参数设置主轴上子组件的间距,达到各子组件在排列上的等间距效果alignItems设置子组件在交叉轴上的对齐方式,且在各类尺寸屏幕上表现一致,其中交叉轴为垂直时,取值为Vert

Ilya-AI分享的他在OpenAI学习到的15个提示工程技巧

Ilya(不是本人,claude AI)在社交媒体上分享了他在OpenAI学习到的15个Prompt撰写技巧。 以下是详细的内容: 提示精确化:在编写提示时,力求表达清晰准确。清楚地阐述任务需求和概念定义至关重要。例:不用"分析文本",而用"判断这段话的情感倾向:积极、消极还是中性"。 快速迭代:善于快速连续调整提示。熟练的提示工程师能够灵活地进行多轮优化。例:从"总结文章"到"用

Spring Security 从入门到进阶系列教程

Spring Security 入门系列 《保护 Web 应用的安全》 《Spring-Security-入门(一):登录与退出》 《Spring-Security-入门(二):基于数据库验证》 《Spring-Security-入门(三):密码加密》 《Spring-Security-入门(四):自定义-Filter》 《Spring-Security-入门(五):在 Sprin

基于人工智能的图像分类系统

目录 引言项目背景环境准备 硬件要求软件安装与配置系统设计 系统架构关键技术代码示例 数据预处理模型训练模型预测应用场景结论 1. 引言 图像分类是计算机视觉中的一个重要任务,目标是自动识别图像中的对象类别。通过卷积神经网络(CNN)等深度学习技术,我们可以构建高效的图像分类系统,广泛应用于自动驾驶、医疗影像诊断、监控分析等领域。本文将介绍如何构建一个基于人工智能的图像分类系统,包括环境

【前端学习】AntV G6-08 深入图形与图形分组、自定义节点、节点动画(下)

【课程链接】 AntV G6:深入图形与图形分组、自定义节点、节点动画(下)_哔哩哔哩_bilibili 本章十吾老师讲解了一个复杂的自定义节点中,应该怎样去计算和绘制图形,如何给一个图形制作不间断的动画,以及在鼠标事件之后产生动画。(有点难,需要好好理解) <!DOCTYPE html><html><head><meta charset="UTF-8"><title>06

学习hash总结

2014/1/29/   最近刚开始学hash,名字很陌生,但是hash的思想却很熟悉,以前早就做过此类的题,但是不知道这就是hash思想而已,说白了hash就是一个映射,往往灵活利用数组的下标来实现算法,hash的作用:1、判重;2、统计次数;

认识、理解、分类——acm之搜索

普通搜索方法有两种:1、广度优先搜索;2、深度优先搜索; 更多搜索方法: 3、双向广度优先搜索; 4、启发式搜索(包括A*算法等); 搜索通常会用到的知识点:状态压缩(位压缩,利用hash思想压缩)。

零基础学习Redis(10) -- zset类型命令使用

zset是有序集合,内部除了存储元素外,还会存储一个score,存储在zset中的元素会按照score的大小升序排列,不同元素的score可以重复,score相同的元素会按照元素的字典序排列。 1. zset常用命令 1.1 zadd  zadd key [NX | XX] [GT | LT]   [CH] [INCR] score member [score member ...]

科研绘图系列:R语言扩展物种堆积图(Extended Stacked Barplot)

介绍 R语言的扩展物种堆积图是一种数据可视化工具,它不仅展示了物种的堆积结果,还整合了不同样本分组之间的差异性分析结果。这种图形表示方法能够直观地比较不同物种在各个分组中的显著性差异,为研究者提供了一种有效的数据解读方式。 加载R包 knitr::opts_chunk$set(warning = F, message = F)library(tidyverse)library(phyl

【机器学习】高斯过程的基本概念和应用领域以及在python中的实例

引言 高斯过程(Gaussian Process,简称GP)是一种概率模型,用于描述一组随机变量的联合概率分布,其中任何一个有限维度的子集都具有高斯分布 文章目录 引言一、高斯过程1.1 基本定义1.1.1 随机过程1.1.2 高斯分布 1.2 高斯过程的特性1.2.1 联合高斯性1.2.2 均值函数1.2.3 协方差函数(或核函数) 1.3 核函数1.4 高斯过程回归(Gauss