【论文阅读】Visual Sentiment Prediction Based on Automatic Discovery of Affective Regions

本文主要是介绍【论文阅读】Visual Sentiment Prediction Based on Automatic Discovery of Affective Regions,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

在这里插入图片描述

概括

本文尝试去解决在情感分析中所遇到的情感分类和可解释性问题。这里的可解释性主要指图片上哪一区域会影响人类视觉对情感的判断。本文解决这个问题的办法是引入了Affective Region (AR),类似空间注意力的东西。

结合流程图,整体的思路和亮点有两个:

  1. 弱监督找到AR(建立自动寻找AR的模型),用于定位最容易影响人类视觉判断情感的区域,起到辅助情感分类的作用。【也就是下面的红色虚线框部分】
  2. 建立情感分类器(采用了求和池化、最大池化、级联三个策略)【红色虚线框以外的部分】
    在这里插入图片描述

产生候选AR

首先看看作者对AR的描述:

We introduce a new notion named Affective Regions (ARs), which contains two distinguishing characteristics:
1.an AR is a salient region and probably contains one or more objects, which can attract people’s attention, and
2.an AR conveys significant sentiments.

在这里插入图片描述
结合图片可以看出,包含不止一个对象的AR最能吸引视线,且最能够反映图片想要传达的情感。图中红框圈起来的部分都是AR,比如(a)中松鼠的笑容让我们一眼能够判断这张图片传递的情感是积极(positive)的。

产生候选AR的时候,有两个要考虑的因素,一是候选框应该覆盖图片中的主要对象,这里需要高召回率,二是只需要有限的候选框来保证准确率。综上,整个步骤包含三步:
1)针对输入图片,用EdgeBoxes产生一组包含对象分数(objectness score,后面记为Obj_score)的边界框(bounding boxes)
2)候选框选择模块,这一步的目的是筛选候选框
在这里插入图片描述
用Fig.4来解释,就是首先过滤太大或者太小的区域(像素小于800的候选框/宽高比大于阈值6);然后如(c)所示,利用normalized cut算法将图片分为m簇(不同的颜色表示不同簇),并计算每簇中的候选框得分W(W为相似性矩阵,指每一对候选框的IoU);最后产生m个候选框。
3)计算AR_score,选出AR
先初始化框架,
再估算候选框情感得分(Senti_score),
最后根据公式计算AR_score,选出得分高的。

初始化框架使用在ImageNet预训练过并用Flickr和Instagram数据集微调过的16层VGGNet,且将fc8分类层改为二分类层,方便预测情感概率。

估算候选框Senti_score,定义了一个概率抽样函数,第i个区域的情感得分(Senti_score):
在这里插入图片描述
二元分类的得分范围在0到1之间。公式中定义的信息熵表示在预测情绪时的不确定性程度,与传统方法相比,Senti_score可以提供更高级的语义测量。

计算AR_score的时候,利用两个参数Obj_score和Senti_score。前者基于外观估算候选框内包含对象的概率,后者估算情感得分。
在这里插入图片描述
α进行低层和情感层之间的平衡,由对大规模情感数据集的交叉验证来确定。AR_score高的就被认为是AR,用于情感预测,而AR_score低的就被删除。

建立情感分类器

基于初始化的框架,对给定图像的情绪分类可以总结如下。给定一个测试图像,首先生成基于边框的情感候选对象。为了减少冗余性,采用了基于IoU的候选框选择方法,只保留最好的候选框。在选择有可能吸引注意的AR时,同时考虑了Obj_score和Senti_score。然后,对于每个AR和整体图像,由CNN得到一个c维的预测结果,将其融合为最终的预测。作者考虑了三种策略,最大池化、求和池化和级联策略

实验部分和具体公式内容等:
https://ieeexplore.ieee.org/document/8283764

代码没有公布,暂时只有Github上的Matlab版本:
https://github.com/sherleens/AR_discovery

这篇关于【论文阅读】Visual Sentiment Prediction Based on Automatic Discovery of Affective Regions的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/594055

相关文章

JAVA智听未来一站式有声阅读平台听书系统小程序源码

智听未来,一站式有声阅读平台听书系统 🌟 开篇:遇见未来,从“智听”开始 在这个快节奏的时代,你是否渴望在忙碌的间隙,找到一片属于自己的宁静角落?是否梦想着能随时随地,沉浸在知识的海洋,或是故事的奇幻世界里?今天,就让我带你一起探索“智听未来”——这一站式有声阅读平台听书系统,它正悄悄改变着我们的阅读方式,让未来触手可及! 📚 第一站:海量资源,应有尽有 走进“智听

Retrieval-based-Voice-Conversion-WebUI模型构建指南

一、模型介绍 Retrieval-based-Voice-Conversion-WebUI(简称 RVC)模型是一个基于 VITS(Variational Inference with adversarial learning for end-to-end Text-to-Speech)的简单易用的语音转换框架。 具有以下特点 简单易用:RVC 模型通过简单易用的网页界面,使得用户无需深入了

AI hospital 论文Idea

一、Benchmarking Large Language Models on Communicative Medical Coaching: A Dataset and a Novel System论文地址含代码 大多数现有模型和工具主要迎合以患者为中心的服务。这项工作深入探讨了LLMs在提高医疗专业人员的沟通能力。目标是构建一个模拟实践环境,人类医生(即医学学习者)可以在其中与患者代理进行医学

如何在Visual Studio中调试.NET源码

今天偶然在看别人代码时,发现在他的代码里使用了Any判断List<T>是否为空。 我一般的做法是先判断是否为null,再判断Count。 看了一下Count的源码如下: 1 [__DynamicallyInvokable]2 public int Count3 {4 [__DynamicallyInvokable]5 get

论文翻译:arxiv-2024 Benchmark Data Contamination of Large Language Models: A Survey

Benchmark Data Contamination of Large Language Models: A Survey https://arxiv.org/abs/2406.04244 大规模语言模型的基准数据污染:一项综述 文章目录 大规模语言模型的基准数据污染:一项综述摘要1 引言 摘要 大规模语言模型(LLMs),如GPT-4、Claude-3和Gemini的快

论文阅读笔记: Segment Anything

文章目录 Segment Anything摘要引言任务模型数据引擎数据集负责任的人工智能 Segment Anything Model图像编码器提示编码器mask解码器解决歧义损失和训练 Segment Anything 论文地址: https://arxiv.org/abs/2304.02643 代码地址:https://github.com/facebookresear

论文翻译:ICLR-2024 PROVING TEST SET CONTAMINATION IN BLACK BOX LANGUAGE MODELS

PROVING TEST SET CONTAMINATION IN BLACK BOX LANGUAGE MODELS https://openreview.net/forum?id=KS8mIvetg2 验证测试集污染在黑盒语言模型中 文章目录 验证测试集污染在黑盒语言模型中摘要1 引言 摘要 大型语言模型是在大量互联网数据上训练的,这引发了人们的担忧和猜测,即它们可能已

OmniGlue论文详解(特征匹配)

OmniGlue论文详解(特征匹配) 摘要1. 引言2. 相关工作2.1. 广义局部特征匹配2.2. 稀疏可学习匹配2.3. 半稠密可学习匹配2.4. 与其他图像表示匹配 3. OmniGlue3.1. 模型概述3.2. OmniGlue 细节3.2.1. 特征提取3.2.2. 利用DINOv2构建图形。3.2.3. 信息传播与新的指导3.2.4. 匹配层和损失函数3.2.5. 与Super

软件架构模式:5 分钟阅读

原文: https://orkhanscience.medium.com/software-architecture-patterns-5-mins-read-e9e3c8eb47d2 软件架构模式:5 分钟阅读 当有人潜入软件工程世界时,有一天他需要学习软件架构模式的基础知识。当我刚接触编码时,我不知道从哪里获得简要介绍现有架构模式的资源,这样它就不会太详细和混乱,而是非常抽象和易

BERT 论文逐段精读【论文精读】

BERT: 近 3 年 NLP 最火 CV: 大数据集上的训练好的 NN 模型,提升 CV 任务的性能 —— ImageNet 的 CNN 模型 NLP: BERT 简化了 NLP 任务的训练,提升了 NLP 任务的性能 BERT 如何站在巨人的肩膀上的?使用了哪些 NLP 已有的技术和思想?哪些是 BERT 的创新? 1标题 + 作者 BERT: Pre-trainin