为什么说事件相机是“受生物启发的”?

2024-03-26 16:08
文章标签 事件 相机 生物 启发

本文主要是介绍为什么说事件相机是“受生物启发的”?,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

本文首发于公众号:【事件相机】,为什么说事件相机是“受生物启发的”?

常常在论文中见到一个词,bio-inspired,翻译过来是“受生物启发的”。那究竟为什么说是事件相机是受生物启发的,如何从生物角度解释事件相机的功能?本文做简要介绍。

本文涉及过多生物知识,我不是专业的,所以只能解释个大概。如有错误,请批评指正。

一、视觉通路

在这里插入图片描述视觉通路。图片来源[1]

首先人通过眼睛的视网膜将视觉信息编码,经过视交叉后通过大脑中一个称作Lateral geniculate nucleus (LGN)的区域,将视觉信号层层分类,传递到初级视觉皮层(primary visual cortext)[1]。

进入到初级视觉皮层后,视觉信息被进一步的加工。罗德曼脑区系统17区的皮层称作V1皮层,最初的视觉信息就在V1皮层(称作“纹状皮层”striate cortex)被加工。之后大脑还有V2-V4多层,按照现有理论,V2层处理图形和轮廓、V3层传递信息、V4层颜色处理。最后到达中颞区(middle temporal, MT,也称作MT区),或下颞叶。

在这里插入图片描述视觉通路。图片来源[2]

如果视觉信号经过的是v1-v2-v3-MT,这一条通路称作“背侧流通路”,最终传递到大脑的顶叶区域。顶叶区域一般认为和运动、躯干感觉与空间识别有一定关系。这条通路也称作空间通路,解决“where”问题。

如果视觉信号经过的是v1-v2-v4-下颞叶,这一条通路称作“腹侧流通路”,负责识别与描述看到的是什么东西。这条通路也称作内容通路,解决的是“what”问题。
在这里插入图片描述两条视觉通路。图片来源[1]

二、视网膜

现在详细来看视网膜,如下图:

在这里插入图片描述人视网膜结构。图片来自网络
在这里插入图片描述人视网膜结构。图片来源[3]

视网膜可以分成三层:外核层、内核层和神经节细胞层。外核层主要包括视锥细胞和视杆细胞,内核层主要有双极细胞、水平细胞、无长突细胞等,神经节细胞层主要为神经节细胞。

视锥细胞、视杆细胞:

视锥细胞,还可以细分为感知红、绿、蓝的视锥细胞,主要负责颜色任务。视杆细胞的功能则是感知光线的强弱,主要主导暗环境或夜晚的视力,但无色觉感。所以人在光线暗的情况下无法分辨出颜色。人类视杆细胞(1-1.5亿)的数量远多于视锥细胞(700万)。

双极细胞:

双极细胞主要有两个功能:一是通过其树突上的不同的谷氨酸受体把视觉信号分流为给光(ON)和撤光(OFF)信号;二是通过其与无长突细胞和神经节细胞的特殊的突触传递方式,把持续性的分级电位(graded potential)转化为瞬变性的神经活动[4]。

水平细胞:

可以简单理解成起调节作用:水平细胞接受光感受器的输入并通过反馈机制调节光感受器对双极细胞的信息传递。

神经节细胞:

可简单理解成将视觉信息编码后交给视神经传输。进一步而言,双极细胞和对应的神经节细胞,将通过不同的视觉通路(背侧流通路、腹侧流通路)传递到大脑指定区域[5]。

小结:

视锥视杆细胞接收环境光信息后编码信息,经过双极细胞加工后,交由神经节细胞传递给大脑内部。

三、硅视网膜

事件相机本质上是模拟了人的视网膜结构,所以最初称作“硅视网膜(Silicon Retina)”[6]。
在这里插入图片描述硅视网膜中像素的排布。图片来源[6]

具体而言,所有光感受器平面排布,类似于视锥细胞(论文说的是视锥,我也不知道为啥是视锥不是视杆)。每个光感受器的工作状态有调节电路进行调节,类似于水平细胞。

在这里插入图片描述事件相机电路与神经元对应关系。图片来源[5]

进一步地,在电路的积分部分,模仿的是双极细胞对信号进行的初步加工;在比较器电路部分,相当于将on/off信号进一步编码后输出,模拟的是神经节细胞传递编码信息[5]。

小结:

事件相机电路中的感光器件模拟的是视锥细胞,积分部分相当于双极细胞,比较器部分相当于神经节细胞,调节bias的电路相当于水平细胞。所以事件相机是完全仿照视网膜设计的,是名副其实的“硅视网膜”。

总结

  • 人类视觉通路可以简单理解为:视网膜接收信息-视神经传递给大脑皮层-大脑皮层进行信息处理
  • 事件相机模仿的是人视网膜接收信息及初步编码部分

参考资料:

[1] https://www.zhihu.com/question/21557819/answer/44448502
[2] https://www.zhihu.com/question/21557819/answer/44480695
[3] https://www.zhihu.com/zvideo/1333480255965704192
[4] https://baike.baidu.com/item/%E5%8F%8C%E6%9E%81%E7%BB%86%E8%83%9E/7709463?fr=aladdin
[5] C. Posch, T. Serrano-Gotarredona, B. Linares-Barranco and T. Delbruck, “Retinomorphic Event-Based Vision Sensors: Bioinspired Cameras With Spiking Output,” in Proceedings of the IEEE, vol. 102, no. 10, pp. 1470-1484, Oct. 2014, doi: 10.1109/JPROC.2014.2346153.
[6] Mahowald M. (1994) The Silicon Retina. In: An Analog VLSI System for Stereoscopic Vision. The Springer International Series in Engineering and Computer Science (VLSI, Computer Architecture and Digital Signal Processing), vol 265. Springer, Boston, MA.


欢迎关注微信公众号【事件相机】,分享和交流事件相机的相关研究与应用。
在这里插入图片描述

这篇关于为什么说事件相机是“受生物启发的”?的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/849062

相关文章

Python中的异步:async 和 await以及操作中的事件循环、回调和异常

《Python中的异步:async和await以及操作中的事件循环、回调和异常》在现代编程中,异步操作在处理I/O密集型任务时,可以显著提高程序的性能和响应速度,Python提供了asyn... 目录引言什么是异步操作?python 中的异步编程基础async 和 await 关键字asyncio 模块理论

禁止平板,iPad长按弹出默认菜单事件

通过监控按下抬起时间差来禁止弹出事件,把以下代码写在要禁止的页面的页面加载事件里面即可     var date;document.addEventListener('touchstart', event => {date = new Date().getTime();});document.addEventListener('touchend', event => {if (new

基于UE5和ROS2的激光雷达+深度RGBD相机小车的仿真指南(五):Blender锥桶建模

前言 本系列教程旨在使用UE5配置一个具备激光雷达+深度摄像机的仿真小车,并使用通过跨平台的方式进行ROS2和UE5仿真的通讯,达到小车自主导航的目的。本教程默认有ROS2导航及其gazebo仿真相关方面基础,Nav2相关的学习教程可以参考本人的其他博客Nav2代价地图实现和原理–Nav2源码解读之CostMap2D(上)-CSDN博客往期教程: 第一期:基于UE5和ROS2的激光雷达+深度RG

生信代码入门:从零开始掌握生物信息学编程技能

少走弯路,高效分析;了解生信云,访问 【生信圆桌x生信专用云服务器】 : www.tebteb.cc 介绍 生物信息学是一个高度跨学科的领域,结合了生物学、计算机科学和统计学。随着高通量测序技术的发展,海量的生物数据需要通过编程来进行处理和分析。因此,掌握生信编程技能,成为每一个生物信息学研究者的必备能力。 生信代码入门,旨在帮助初学者从零开始学习生物信息学中的编程基础。通过学习常用

FreeRTOS内部机制学习03(事件组内部机制)

文章目录 事件组使用的场景事件组的核心以及Set事件API做的事情事件组的特殊之处事件组为什么不关闭中断xEventGroupSetBitsFromISR内部是怎么做的? 事件组使用的场景 学校组织秋游,组长在等待: 张三:我到了 李四:我到了 王五:我到了 组长说:好,大家都到齐了,出发! 秋游回来第二天就要提交一篇心得报告,组长在焦急等待:张三、李四、王五谁先写好就交谁的

生信圆桌x生信分析平台:助力生物信息学研究的综合工具

介绍 少走弯路,高效分析;了解生信云,访问 【生信圆桌x生信专用云服务器】 : www.tebteb.cc 生物信息学的迅速发展催生了众多生信分析平台,这些平台通过集成各种生物信息学工具和算法,极大地简化了数据处理和分析流程,使研究人员能够更高效地从海量生物数据中提取有价值的信息。这些平台通常具备友好的用户界面和强大的计算能力,支持不同类型的生物数据分析,如基因组、转录组、蛋白质组等。

【经验交流】修复系统事件查看器启动不能时出现的4201错误

方法1,取得『%SystemRoot%\LogFiles』文件夹和『%SystemRoot%\System32\wbem』文件夹的权限(包括这两个文件夹的所有子文件夹的权限),简单点说,就是使你当前的帐户拥有这两个文件夹以及它们的子文件夹的绝对控制权限。这是最简单的方法,不少老外说,这样一弄,倒是解决了问题。不过对我的系统,没用; 方法2,以不带网络的安全模式启动,运行命令行,输入“ne

BT天堂网站挂马事件后续:“大灰狼”远控木马分析及幕后真凶调查

9月初安全团队披露bt天堂网站挂马事件,该网站被利用IE神洞CVE-2014-6332挂马,如果用户没有打补丁或开启安全软件防护,电脑会自动下载执行大灰狼远控木马程序。 鉴于bt天堂电影下载网站访问量巨大,此次挂马事件受害者甚众,安全团队专门针对该木马进行严密监控,并对其幕后真凶进行了深入调查。 一、“大灰狼”的伪装 以下是10月30日一天内大灰狼远控的木马样本截图,可以看到该木马变种数量不

react笔记 8-19 事件对象、获取dom元素、双向绑定

1、事件对象event 通过事件的event对象获取它的dom元素 run=(event)=>{event.target.style="background:yellowgreen" //event的父级为他本身event.target.getAttribute("aid") //这样便获取到了它的自定义属性aid}render() {return (<div><h2>{

react笔记 8-18 事件 方法 定义方法 获取/改变数据 传值

1、定义方法并绑定 class News extends React.Component {constructor(props) {super(props)this.state = {msg:'home组件'}}run(){alert("我是一个run") //方法写在类中}render() {return (<div><h2>{this.state.msg}</h2><button onCli