论文阅读笔记(1):A Model of Saliency-Based Visual Attention for Rapid Scene Analysis

本文主要是介绍论文阅读笔记(1):A Model of Saliency-Based Visual Attention for Rapid Scene Analysis,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

论文题目:A Model of Saliency-Based Visual Attention for Rapid Scene Analysis
论文作者:Laurent Itti, Christof Koch, and Ernst Niebur
论文时间:1998

这篇文章可能已经有很多人阅读过,也有不少人写过关于这篇文章的笔记,但是,我想还是自己多读几遍原文,然后记录下自己的想法才是真正的读懂文章。

文章是基于早期灵长类视觉系统的行为和神经结构,提出一种视觉注意机制系统,将多尺度图像特征组合成一幅单一的地形显著性图,然后,动态神经网络按显著性降低的顺序选择人类注意的位置。该系统通过快速、高效地选择需要详细分析的显著位置,打破了复杂的场景理解问题。
注意力模型包括“动态路径”模型,其中只有一小部分视野中的信息可以通过皮质视觉层次进行传递。在自上而下(任务相关)和自下而上(场景相关)的控制下,通过动态改变皮质连接或建立特定的活动时间模式来选择人类注意区域。其主要思想是对输入图像首先进行多个特征通道(三个)和多尺度的分解(九层金字塔),再进行滤波得到特征图,再对特征图做融合计算得到最终的显著图。
这篇文章使用的模型(基于后面参考文献的模型)如下所示:
在这里插入图片描述
算法大致流程:

  1. 读取图像
  2. 提取特征
  3. 不同尺度间特征取差形成特征图
  4. 特征图融合
  5. 获取显著图

该模型的输入主要是以静态彩色图像为主,输入图像的分辨率大小为640 x 480,使用二元高斯金字塔创建九个空间尺度,它逐步对输入图像进行低通滤波器和二次采样 。每个特征都是由一组类似于视觉接收场的线性“中心环绕”操作来计算的。当R、G和B为输入图像的红色、绿色和蓝色通道时,获得强度图像I,即I=(R+G+B)/3。I用于创建高斯金字塔i。R、G和B通道通过I进行归一化,以将色调与强度分离。
总共计算了42个特征图:6个用于强度,12个用于颜色,24个用于方向。
在缺乏自上而下的监督的情况下,作者提出一个归一化操作,该操作包括以下步骤,归一化操作流程如下图所示:

  1. 将映射中的值标准化为固定范围[0…M],以消除模态相关振幅差异;
  2. 找到图的全局最大M的位置,并计算其所有其他局部最大的平均值¯m;
  3. 将全局图乘以(M-¯m)的平方。

在这里插入图片描述
在尺度为4的时候,将前面得到的特征图组合成三个显著图,分别表示强度(公式5)、颜色(公式6)和方向(公式7)。
在这里插入图片描述在这里插入图片描述
对于方向,首先通过结合给定Q的六个特征图创建四个中间图,然后组合成一个方向显著图:
将这三个显著图作为输入汇总到最终的显著图S,如公式8所示:
在这里插入图片描述
在这里插入图片描述
具体步骤:

  1. FOA移动到获胜神经元的位置;
  2. WTA的整体抑制被触发,并完全抑制(重置)所有WTA神经元;
  3. 局部抑制在具有FOA大小和新位置的SM中短暂激活;这不仅产生FOA的动态变化,允许下一个最显著的位置随后成为获胜者,而且还阻止FOA立即返回到以前关注的位置。
    同时和空间频率内容模型进行了比较,比较的结果如下图所示:
    在这里插入图片描述
    其中(a)是输入的彩色源图像,(b)是相应的显著图,(c)是相应的空间频率内容(SFC)图,(d)是显著性图输入高于最大值(黄色圆圈)98%的位置,以及SFC高于最大值(红色方块)98%的图像块。

下面是作者对该模型进行的人工图像测试,例如,有几个形状相同但与背景对比度不同的物体,按对比度降低的顺序排列。该模型被证明对向这些图像添加噪声非常稳健,特别是当噪声的特性(例如,其颜色)与目标的主要特征没有直接冲突时,如下图所示:
在这里插入图片描述
使用的图像的大小为768 x 512,其中目标(两人)以其独特的颜色对比度突出。另外,作者也使用了真实的图像进行模型的测试,使用的图像范围由自然室外场景到艺术绘画,并且使用归一化对特征图进行归一化处理。

论文的MATLAB实现

参考文献:
Expectation-based selective attention for visual monitoring and control of a robot vehicle
Attentive Mechanisms for Dynamic and Static Scene Analysis

这篇关于论文阅读笔记(1):A Model of Saliency-Based Visual Attention for Rapid Scene Analysis的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/328530

相关文章

JAVA智听未来一站式有声阅读平台听书系统小程序源码

智听未来,一站式有声阅读平台听书系统 🌟 开篇:遇见未来,从“智听”开始 在这个快节奏的时代,你是否渴望在忙碌的间隙,找到一片属于自己的宁静角落?是否梦想着能随时随地,沉浸在知识的海洋,或是故事的奇幻世界里?今天,就让我带你一起探索“智听未来”——这一站式有声阅读平台听书系统,它正悄悄改变着我们的阅读方式,让未来触手可及! 📚 第一站:海量资源,应有尽有 走进“智听

Retrieval-based-Voice-Conversion-WebUI模型构建指南

一、模型介绍 Retrieval-based-Voice-Conversion-WebUI(简称 RVC)模型是一个基于 VITS(Variational Inference with adversarial learning for end-to-end Text-to-Speech)的简单易用的语音转换框架。 具有以下特点 简单易用:RVC 模型通过简单易用的网页界面,使得用户无需深入了

AI hospital 论文Idea

一、Benchmarking Large Language Models on Communicative Medical Coaching: A Dataset and a Novel System论文地址含代码 大多数现有模型和工具主要迎合以患者为中心的服务。这项工作深入探讨了LLMs在提高医疗专业人员的沟通能力。目标是构建一个模拟实践环境,人类医生(即医学学习者)可以在其中与患者代理进行医学

【学习笔记】 陈强-机器学习-Python-Ch15 人工神经网络(1)sklearn

系列文章目录 监督学习:参数方法 【学习笔记】 陈强-机器学习-Python-Ch4 线性回归 【学习笔记】 陈强-机器学习-Python-Ch5 逻辑回归 【课后题练习】 陈强-机器学习-Python-Ch5 逻辑回归(SAheart.csv) 【学习笔记】 陈强-机器学习-Python-Ch6 多项逻辑回归 【学习笔记 及 课后题练习】 陈强-机器学习-Python-Ch7 判别分析 【学

系统架构师考试学习笔记第三篇——架构设计高级知识(20)通信系统架构设计理论与实践

本章知识考点:         第20课时主要学习通信系统架构设计的理论和工作中的实践。根据新版考试大纲,本课时知识点会涉及案例分析题(25分),而在历年考试中,案例题对该部分内容的考查并不多,虽在综合知识选择题目中经常考查,但分值也不高。本课时内容侧重于对知识点的记忆和理解,按照以往的出题规律,通信系统架构设计基础知识点多来源于教材内的基础网络设备、网络架构和教材外最新时事热点技术。本课时知识

如何在Visual Studio中调试.NET源码

今天偶然在看别人代码时,发现在他的代码里使用了Any判断List<T>是否为空。 我一般的做法是先判断是否为null,再判断Count。 看了一下Count的源码如下: 1 [__DynamicallyInvokable]2 public int Count3 {4 [__DynamicallyInvokable]5 get

论文翻译:arxiv-2024 Benchmark Data Contamination of Large Language Models: A Survey

Benchmark Data Contamination of Large Language Models: A Survey https://arxiv.org/abs/2406.04244 大规模语言模型的基准数据污染:一项综述 文章目录 大规模语言模型的基准数据污染:一项综述摘要1 引言 摘要 大规模语言模型(LLMs),如GPT-4、Claude-3和Gemini的快

什么是 Flash Attention

Flash Attention 是 由 Tri Dao 和 Dan Fu 等人在2022年的论文 FlashAttention: Fast and Memory-Efficient Exact Attention with IO-Awareness 中 提出的, 论文可以从 https://arxiv.org/abs/2205.14135 页面下载,点击 View PDF 就可以下载。 下面我

论文阅读笔记: Segment Anything

文章目录 Segment Anything摘要引言任务模型数据引擎数据集负责任的人工智能 Segment Anything Model图像编码器提示编码器mask解码器解决歧义损失和训练 Segment Anything 论文地址: https://arxiv.org/abs/2304.02643 代码地址:https://github.com/facebookresear

数学建模笔记—— 非线性规划

数学建模笔记—— 非线性规划 非线性规划1. 模型原理1.1 非线性规划的标准型1.2 非线性规划求解的Matlab函数 2. 典型例题3. matlab代码求解3.1 例1 一个简单示例3.2 例2 选址问题1. 第一问 线性规划2. 第二问 非线性规划 非线性规划 非线性规划是一种求解目标函数或约束条件中有一个或几个非线性函数的最优化问题的方法。运筹学的一个重要分支。2