UNet++: Redesigning Skip Connections to Exploit Multiscale Features in Image Segmentation论文译读笔记

本文主要是介绍UNet++: Redesigning Skip Connections to Exploit Multiscale Features in Image Segmentation论文译读笔记,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

摘要

许多医学图像分割的SOTA模型都是UNet网络和FCN网络的变体。尽管这些模型十分成功,但仍然有两个限制:(1)这些模型的最佳深度是先验未知的(即网络深度是无法预知的超参数),需要广泛的架构搜索或者不同深度模型的低效集成;(2)这些模型的跳跃连接强制实行不必要的限制性融合框架,仅在编码器和解码器子网络中相同尺度的特征图上强制进行聚合。为了克服这两个限制,文章提出了UNet++模型,一种新的语义分割和实例分割的神经网络架构:(1)通过不同深度UNet的有效集成来减轻位置网络的深度,这些UNet会部分共享一个编码器并同时使用深度监督一起共同学习;(2)重新设计解码器子网络中的跳跃连接,来聚合不同语义尺度的特征,从而形成高度灵活的特征融合框架;(3)设计一种剪枝方法加快UNet++模型的推理速度。文章使用了六种不同的医学图像分割数据集来对UNet++模型进行评测,包括了多种成像模态例如:computed tomography (CT)、magnetic resonance imaging (MRI)和 electron microscopy (EM),结果表明:(1)在不同数据集,以及使用不同主干网络架构时,UNet++模型始终优于基线模型;(2)UNet++可以增强不同大小目标的分割质量——对固定深度UNet的改进;(3)对于实例分割任务,Mask RCNN++(使用UNet++设计的Mask RCNN模型)由于原有的Mask RCNN模型;(4)剪枝的UNet++模型实现了显著的速度提升,同时仅表现出些许的性能下降。UNet++的实现和预训练模型位于https://github.com\/MrGiovanni/UNetPlusPlus。

引言

Encoder-decoder网络在如今的语义分割和实例分割模型中十分常见【ZhouDeepMedical, ShenDeepMedical,Litjens2017Survey, Chartrand2017Radiologists, UNet, Tajbakhsh2020Embracing】。这些模型的成功很大程度上归功于跳跃连接,它结合了来自解码器子网络的深层、语义、粗粒度的特征图和来自编码器子网络的浅层、低级、细粒度的特征图,并且已经证明即使在复杂的背景中【10_HariharanHypercolumns2015, 11_FPN】,也能有效地恢复目标对象的细粒度细节【7_Drozdzal2016Skip, 8_ResNet, 9_DenseNet】。跳跃连接在实例级分割模型中也发挥了关键的作用,例如【12_MaskRCNN,13_HuSeg2018】,其中的想法是分割和区分所需对象的每个实例。
  然而,这些用于图像分割的encoder-decoder架构有两个限制。首先,encoder-decoder网络的最佳深度可能会随着不同的应用而变化,这取决于任务难度以及可供训练的标注数据的数量。简单的做法是分别训练多个不同深度的模型,然后在推理时将这些模型的结果进行ensemble(集成)【14_DietterichEnsemble2000, 15_ShinCAD2016, 16_CiompiAutomatic2015】。然而,这种简单的做法从开发的角度看效率不高,因为这些网络没有能够共用一个编码器。而且,在独立训练的情况下,这些网络无法享受多任务学习的收益\cite{17_BengioLearning2009,18_ZhangSurvey2017}。其次,用于encoder-decoder网络中跳跃连接的设计具有不必要的限制,要求编码器和解码器中相同尺度的特征图进行融合。虽然这种自然的设计引人注目,但是来自编码器和解码器中相同尺度的特征图不具有语义相似性,并且没有可靠的理论保证两者是特征融合的最佳配对。

这篇关于UNet++: Redesigning Skip Connections to Exploit Multiscale Features in Image Segmentation论文译读笔记的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/632672

相关文章

AI hospital 论文Idea

一、Benchmarking Large Language Models on Communicative Medical Coaching: A Dataset and a Novel System论文地址含代码 大多数现有模型和工具主要迎合以患者为中心的服务。这项工作深入探讨了LLMs在提高医疗专业人员的沟通能力。目标是构建一个模拟实践环境,人类医生(即医学学习者)可以在其中与患者代理进行医学

【学习笔记】 陈强-机器学习-Python-Ch15 人工神经网络(1)sklearn

系列文章目录 监督学习:参数方法 【学习笔记】 陈强-机器学习-Python-Ch4 线性回归 【学习笔记】 陈强-机器学习-Python-Ch5 逻辑回归 【课后题练习】 陈强-机器学习-Python-Ch5 逻辑回归(SAheart.csv) 【学习笔记】 陈强-机器学习-Python-Ch6 多项逻辑回归 【学习笔记 及 课后题练习】 陈强-机器学习-Python-Ch7 判别分析 【学

系统架构师考试学习笔记第三篇——架构设计高级知识(20)通信系统架构设计理论与实践

本章知识考点:         第20课时主要学习通信系统架构设计的理论和工作中的实践。根据新版考试大纲,本课时知识点会涉及案例分析题(25分),而在历年考试中,案例题对该部分内容的考查并不多,虽在综合知识选择题目中经常考查,但分值也不高。本课时内容侧重于对知识点的记忆和理解,按照以往的出题规律,通信系统架构设计基础知识点多来源于教材内的基础网络设备、网络架构和教材外最新时事热点技术。本课时知识

论文翻译:arxiv-2024 Benchmark Data Contamination of Large Language Models: A Survey

Benchmark Data Contamination of Large Language Models: A Survey https://arxiv.org/abs/2406.04244 大规模语言模型的基准数据污染:一项综述 文章目录 大规模语言模型的基准数据污染:一项综述摘要1 引言 摘要 大规模语言模型(LLMs),如GPT-4、Claude-3和Gemini的快

论文阅读笔记: Segment Anything

文章目录 Segment Anything摘要引言任务模型数据引擎数据集负责任的人工智能 Segment Anything Model图像编码器提示编码器mask解码器解决歧义损失和训练 Segment Anything 论文地址: https://arxiv.org/abs/2304.02643 代码地址:https://github.com/facebookresear

数学建模笔记—— 非线性规划

数学建模笔记—— 非线性规划 非线性规划1. 模型原理1.1 非线性规划的标准型1.2 非线性规划求解的Matlab函数 2. 典型例题3. matlab代码求解3.1 例1 一个简单示例3.2 例2 选址问题1. 第一问 线性规划2. 第二问 非线性规划 非线性规划 非线性规划是一种求解目标函数或约束条件中有一个或几个非线性函数的最优化问题的方法。运筹学的一个重要分支。2

【C++学习笔记 20】C++中的智能指针

智能指针的功能 在上一篇笔记提到了在栈和堆上创建变量的区别,使用new关键字创建变量时,需要搭配delete关键字销毁变量。而智能指针的作用就是调用new分配内存时,不必自己去调用delete,甚至不用调用new。 智能指针实际上就是对原始指针的包装。 unique_ptr 最简单的智能指针,是一种作用域指针,意思是当指针超出该作用域时,会自动调用delete。它名为unique的原因是这个

查看提交历史 —— Git 学习笔记 11

查看提交历史 查看提交历史 不带任何选项的git log-p选项--stat 选项--pretty=oneline选项--pretty=format选项git log常用选项列表参考资料 在提交了若干更新,又或者克隆了某个项目之后,你也许想回顾下提交历史。 完成这个任务最简单而又有效的 工具是 git log 命令。 接下来的例子会用一个用于演示的 simplegit

记录每次更新到仓库 —— Git 学习笔记 10

记录每次更新到仓库 文章目录 文件的状态三个区域检查当前文件状态跟踪新文件取消跟踪(un-tracking)文件重新跟踪(re-tracking)文件暂存已修改文件忽略某些文件查看已暂存和未暂存的修改提交更新跳过暂存区删除文件移动文件参考资料 咱们接着很多天以前的 取得Git仓库 这篇文章继续说。 文件的状态 不管是通过哪种方法,现在我们已经有了一个仓库,并从这个仓

忽略某些文件 —— Git 学习笔记 05

忽略某些文件 忽略某些文件 通过.gitignore文件其他规则源如何选择规则源参考资料 对于某些文件,我们不希望把它们纳入 Git 的管理,也不希望它们总出现在未跟踪文件列表。通常它们都是些自动生成的文件,比如日志文件、编译过程中创建的临时文件等。 通过.gitignore文件 假设我们要忽略 lib.a 文件,那我们可以在 lib.a 所在目录下创建一个名为 .gi