【论文阅读】Fusing Audio, Visual and Textual Clues for Sentiment Analysis from Multimodal Content

本文主要是介绍【论文阅读】Fusing Audio, Visual and Textual Clues for Sentiment Analysis from Multimodal Content,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

Motivations

随着社交媒体的普及,用户倾向于用视频来表达他们对产品的看法,因此,单单只对文本进行情感识别已经满足不了现在的智能系统,而且视频数据中可能包含更多的线索,视频中的音频数据表达的是说话者的语气,而视觉数据传递的是面部表情,这反过来有助于理解用户的情感状态。

因此作者提出了一种新的多模态情感分析方法,从音频、视觉和文本中提取不同的特征,然后分别采用特征级和决策级两种融合方式来对不同模态的特征进行融合。并且使用了几种基于监督学习的分类器来完成情感分类任务。

作者的目标就是构建一下如下图所示的通用的多模态情感分析系统。输入视频、文本、音频数据信息,然后在Cognitive Module中提取不同模态的特征,然后对特征向量进行融合,输入到Motor Module中,得到最终的多模态情感预测结果。

 

Introduction

本文将情感分为积极、消极和中性三类,在本文中,讨论了从不同的模态中提取特征的过程,以及如何使用它们来构建一个新的多模态情感分析框架。实验时,采用了几种基于监督学习的分类器来完成情感分类任务,并且发现使用ELM(极限学习机)获得了最好的性能。

       情感分析早已在信号处理和人工智能技术中应用比较广泛,对于文本、音频、视频这三种信息来源,目前大多数情感分析系统仅仅处理单一的信息源,此外,已知所有这些系统在满足健壮性、准确性和总体性能需求方面都存在局限性,这反过来大大限制了这些系统在现实应用中的有用性。

       人类交流和表达情感和情感的方式可以被表达为多模态。文本、音频和视觉模式同时被认知地利用,从而能够有效地提取在交流过程中传递的语义和情感信息。视频数据中会包含更多的线索,以识别意见持有人与产品有关的情绪。视频中的音频数据表达的是说话者的语气,而视觉数据传递的是面部表情,这反过来有助于理解用户的情感状态。

Methods

首先,对YouTube数据集进行处理,将视频分割成几个片段,然后将视频转化为图像,对图像进行人脸特征提取就能够得到视觉模态的特征向量。

另外,音频数据和文本数据来自于视频片段的音频信号和文本转录,得到数据后,采用不同的方法来提取音频模态特征和文本模态特征。

 针对本文采用基于提取概念的特征提取方法,主要就是根据句子的语法、词性、句子的形态来提取句子中的几个单词。

特征级融合

通过连接所有三种模式的特征向量来实现特征级融合,形成一个单一的长特征向量。这种简单的方法具有相对简单的优点,但具有很高的精度。我们将每个模态的特征向量拼接成一个单一的特征向量流。然后利用该特征向量对每个视频片段进行情感分类。为了估计准确性,我们使用十倍交叉验证。

决策级融合

我们对每个模态使用单独的分类器。每个分类器的输出作为一个分类评分。特别地,我们从每个分类器中获得了每个情感类的概率得分。

Experimental Results

首先介绍一下作者对于不同分类器的的比较,可以得到使用ELM的性能是最好的,因此在下面的实验中,是使用ELM得出的结果。

表5是采用特征级融合得到的结果,分别验证了T、A、V、T+V、V+A、T+A和T+A+V取得的性能,我们可以看到,不管是双模态还是三模态的融合,其性能都要比单模态的优秀,而三模态融合取得了最好的效果。

表6是采用决策级融合得到的结果,验证了 T+V、V+A、T+A和T+A+V取得的效果,在这些结果中,也是三模态融合取得的效果最好。

 

总结

本文作为多模态情感识别领域中一篇比较早发表的文章,为我们后续研究多模态提供了很多很好的思路,但是作者研究的多模态情感分析系统是面向对话级数据集的,可能会存在一些应用方面的瓶颈。

本文注重于使用各种有效的方法从不同模态中提取特征,尤其是使用基于语义计算来对文本特征进行特征提取,大大的提高系统的性能,这也为我们提供了未来的一个方向,可以通过研究更有效的方法来对多模态信息源进行特征提取,这样能够优化模型性能。

 

这篇关于【论文阅读】Fusing Audio, Visual and Textual Clues for Sentiment Analysis from Multimodal Content的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/179066

相关文章

JAVA智听未来一站式有声阅读平台听书系统小程序源码

智听未来,一站式有声阅读平台听书系统 🌟 开篇:遇见未来,从“智听”开始 在这个快节奏的时代,你是否渴望在忙碌的间隙,找到一片属于自己的宁静角落?是否梦想着能随时随地,沉浸在知识的海洋,或是故事的奇幻世界里?今天,就让我带你一起探索“智听未来”——这一站式有声阅读平台听书系统,它正悄悄改变着我们的阅读方式,让未来触手可及! 📚 第一站:海量资源,应有尽有 走进“智听

AI hospital 论文Idea

一、Benchmarking Large Language Models on Communicative Medical Coaching: A Dataset and a Novel System论文地址含代码 大多数现有模型和工具主要迎合以患者为中心的服务。这项工作深入探讨了LLMs在提高医疗专业人员的沟通能力。目标是构建一个模拟实践环境,人类医生(即医学学习者)可以在其中与患者代理进行医学

如何在Visual Studio中调试.NET源码

今天偶然在看别人代码时,发现在他的代码里使用了Any判断List<T>是否为空。 我一般的做法是先判断是否为null,再判断Count。 看了一下Count的源码如下: 1 [__DynamicallyInvokable]2 public int Count3 {4 [__DynamicallyInvokable]5 get

论文翻译:arxiv-2024 Benchmark Data Contamination of Large Language Models: A Survey

Benchmark Data Contamination of Large Language Models: A Survey https://arxiv.org/abs/2406.04244 大规模语言模型的基准数据污染:一项综述 文章目录 大规模语言模型的基准数据污染:一项综述摘要1 引言 摘要 大规模语言模型(LLMs),如GPT-4、Claude-3和Gemini的快

论文阅读笔记: Segment Anything

文章目录 Segment Anything摘要引言任务模型数据引擎数据集负责任的人工智能 Segment Anything Model图像编码器提示编码器mask解码器解决歧义损失和训练 Segment Anything 论文地址: https://arxiv.org/abs/2304.02643 代码地址:https://github.com/facebookresear

Android fill_parent、match_parent、wrap_content三者的作用及区别

这三个属性都是用来适应视图的水平或者垂直大小,以视图的内容或尺寸为基础的布局,比精确的指定视图的范围更加方便。 1、fill_parent 设置一个视图的布局为fill_parent将强制性的使视图扩展至它父元素的大小 2、match_parent 和fill_parent一样,从字面上的意思match_parent更贴切一些,于是从2.2开始,两个属性都可以使用,但2.3版本以后的建议使

论文翻译:ICLR-2024 PROVING TEST SET CONTAMINATION IN BLACK BOX LANGUAGE MODELS

PROVING TEST SET CONTAMINATION IN BLACK BOX LANGUAGE MODELS https://openreview.net/forum?id=KS8mIvetg2 验证测试集污染在黑盒语言模型中 文章目录 验证测试集污染在黑盒语言模型中摘要1 引言 摘要 大型语言模型是在大量互联网数据上训练的,这引发了人们的担忧和猜测,即它们可能已

OmniGlue论文详解(特征匹配)

OmniGlue论文详解(特征匹配) 摘要1. 引言2. 相关工作2.1. 广义局部特征匹配2.2. 稀疏可学习匹配2.3. 半稠密可学习匹配2.4. 与其他图像表示匹配 3. OmniGlue3.1. 模型概述3.2. OmniGlue 细节3.2.1. 特征提取3.2.2. 利用DINOv2构建图形。3.2.3. 信息传播与新的指导3.2.4. 匹配层和损失函数3.2.5. 与Super

软件架构模式:5 分钟阅读

原文: https://orkhanscience.medium.com/software-architecture-patterns-5-mins-read-e9e3c8eb47d2 软件架构模式:5 分钟阅读 当有人潜入软件工程世界时,有一天他需要学习软件架构模式的基础知识。当我刚接触编码时,我不知道从哪里获得简要介绍现有架构模式的资源,这样它就不会太详细和混乱,而是非常抽象和易

Apple quietly slips WebRTC audio, video into Safari's WebKit spec

转自:http://www.zdnet.com/article/apple-quietly-slips-webrtc-audio-video-into-safaris-webkit-spec/?from=timeline&isappinstalled=0 http://www.zdnet.com/article/apple-quietly-slips-webrtc-audio-video-