Attention U-Net:Learning Where to Look for the Pancreas 阅读记录

2023-12-26 14:30

本文主要是介绍Attention U-Net:Learning Where to Look for the Pancreas 阅读记录,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

阅读目的:老师分享

标题:Attention U-Net:Learning Where to Look for the Pancreas(学习在哪里寻找胰腺)

作者团队:Ozan Oktay 生物医学图像分析组,帝国理工学院,伦敦,英国伦敦

来源:arXiv 2018

源码链接:https://github.com/ozan-oktay/Attention-Gated-Networks

数据集链接:https://github.com/ozan-oktay/Attention-Gated-Networks


摘要部分笔记:

1、提出的应用于医学图像的attention gate(AG)可以使模型自动学习聚焦于不同形状和大小的目标结构;

2、使用AGs训练的模型可以再抑制输入图像中的无关区域,同时突出对特定任务有用的显著特征;

3、AGs可以很容易地集成到标准CNN架构中,如U-Net模型,以最小的计算开心同时增加模型的敏感度(sensitivity)和预测精度(accuracy)

4、在两个大型CT腹部数据集上对提出的attention U-Net结构进行了评估,用于多类图像分割。实验结果表明,AGs在保持计算效率的同时,能持续提高U-Net在不同数据集和训练规模下的预测性能

 

介绍部分笔记(含文献综述):

1、在介绍动机(讲故事)时,着重说明本文提出的改进是针对级联框架的:

(1)FCN和U-Net在面对目标区域在形状和大小方便表现出很大的患者间差异时,这些结构依赖于多级级联CNN

(2)级联框架提取ROI,并对特定ROI进行dense prediction(机制类似于先定位再预测)

(3)但是级联框架占用了更多地计算资源,并导致了模型参数的冗余,例如级联中的所有模型都重复地提取类似的低级特征。

2、可训练注意力是通过设计强制执行的,分为硬注意力和软注意力。

硬注意力,例如迭代区域建议和裁剪,通常是不可微的,并且依赖于强化学习来进行参数更新,这使得模型训练更加困难;

软注意是概率性的,利用标准的反向传播,而不需要蒙特卡罗采样。

3、提到的几个不了解的概念:

(1)Moreover, our approach can be used for dense predictions since we do not perform adaptive pooling.

dense prediction 密集预测:标注出图像中每个像素点的对象类别,要求不但给出具体目标的位置,还要描绘物体的边界,如图像分割、语义分割、边缘检测等等。(绝了,只是换了个说法)

adaptive pooling 自适应池:自适应池化Adaptive Pooling与标准的Max/AvgPooling区别在于,自适应池化Adaptive Pooling会根据输入的参数来控制输出output_size,而标准的Max/AvgPooling是通过kernel_size,stride与padding来计算output_size(当我们使用Adaptive Pooling时,这个问题就变成了由已知量input_size,output_size求解kernel_size与stride)

从文中的意思是密集预测与自适应池化不能共存

 

算法部分笔记:

1、整体结构图

 

2、Attention Gates的结构

图中的xl为图1的绿色箭头,将深层次的语义特征输入门中进行特征筛选,g为图1中跳跃连接连接的部分

3、虽然图中没有画出,文中使用深度监督强制中间特征映射在每个图像尺度上具有语义判别性,这有助于确保不同尺度的注意单位能够影响对大范围图像前景内容的响应。

 

实验部分笔记:

1、实验结果展示(与U-Net比较)

列出来的分别是胰腺,脾脏,肾脏

从这个图来看,应该是multi-class分割

2、增加U-Net参数后的结果

 

简要总结:

1、这个Attention Gate的结构感觉已经出现在脑子里了,没有什么惊艳的感觉,加在跳跃连接上,更是满满地既视感,总感觉我们之前画过类似的结构,只不过attention模块里面的结构有些区别

2、文中证明了在跳跃连接上进行操作是可行的,并且文中似乎实现了对多类器官应用多个AG,这样的话就可以使用一个主框架分别提取不同类别的特征了,但是具体实现方式现在想不到需要参考源码

The filtered feature activations (d-e, i-j) are collected from multiple AGs, where a subset of organs is selected by each gate.

 


 

 

 

 

这篇关于Attention U-Net:Learning Where to Look for the Pancreas 阅读记录的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/539765

相关文章

国内环境搭建私有知识问答库踩坑记录(ollama+deepseek+ragflow)

《国内环境搭建私有知识问答库踩坑记录(ollama+deepseek+ragflow)》本文给大家利用deepseek模型搭建私有知识问答库的详细步骤和遇到的问题及解决办法,感兴趣的朋友一起看看吧... 目录1. 第1步大家在安装完ollama后,需要到系统环境变量中添加两个变量2. 第3步 “在cmd中

基于.NET编写工具类解决JSON乱码问题

《基于.NET编写工具类解决JSON乱码问题》在开发过程中,我们经常会遇到JSON数据处理的问题,尤其是在数据传输和解析过程中,很容易出现编码错误导致的乱码问题,下面我们就来编写一个.NET工具类来解... 目录问题背景核心原理工具类实现使用示例总结在开发过程中,我们经常会遇到jsON数据处理的问题,尤其是

Spring Retry 实现乐观锁重试实践记录

《SpringRetry实现乐观锁重试实践记录》本文介绍了在秒杀商品SKU表中使用乐观锁和MybatisPlus配置乐观锁的方法,并分析了测试环境和生产环境的隔离级别对乐观锁的影响,通过简单验证,... 目录一、场景分析 二、简单验证 2.1、可重复读 2.2、读已提交 三、最佳实践 3.1、配置重试模板

在 Spring Boot 中使用异步线程时的 HttpServletRequest 复用问题记录

《在SpringBoot中使用异步线程时的HttpServletRequest复用问题记录》文章讨论了在SpringBoot中使用异步线程时,由于HttpServletRequest复用导致... 目录一、问题描述:异步线程操作导致请求复用时 Cookie 解析失败1. 场景背景2. 问题根源二、问题详细分

Node.js net模块的使用示例

《Node.jsnet模块的使用示例》本文主要介绍了Node.jsnet模块的使用示例,net模块支持TCP通信,处理TCP连接和数据传输,具有一定的参考价值,感兴趣的可以了解一下... 目录简介引入 net 模块核心概念TCP (传输控制协议)Socket服务器TCP 服务器创建基本服务器服务器配置选项服

关于Spring @Bean 相同加载顺序不同结果不同的问题记录

《关于Spring@Bean相同加载顺序不同结果不同的问题记录》本文主要探讨了在Spring5.1.3.RELEASE版本下,当有两个全注解类定义相同类型的Bean时,由于加载顺序不同,最终生成的... 目录问题说明测试输出1测试输出2@Bean注解的BeanDefiChina编程nition加入时机总结问题说明

将sqlserver数据迁移到mysql的详细步骤记录

《将sqlserver数据迁移到mysql的详细步骤记录》:本文主要介绍将SQLServer数据迁移到MySQL的步骤,包括导出数据、转换数据格式和导入数据,通过示例和工具说明,帮助大家顺利完成... 目录前言一、导出SQL Server 数据二、转换数据格式为mysql兼容格式三、导入数据到MySQL数据

关于rpc长连接与短连接的思考记录

《关于rpc长连接与短连接的思考记录》文章总结了RPC项目中长连接和短连接的处理方式,包括RPC和HTTP的长连接与短连接的区别、TCP的保活机制、客户端与服务器的连接模式及其利弊分析,文章强调了在实... 目录rpc项目中的长连接与短连接的思考什么是rpc项目中的长连接和短连接与tcp和http的长连接短

Oracle查询优化之高效实现仅查询前10条记录的方法与实践

《Oracle查询优化之高效实现仅查询前10条记录的方法与实践》:本文主要介绍Oracle查询优化之高效实现仅查询前10条记录的相关资料,包括使用ROWNUM、ROW_NUMBER()函数、FET... 目录1. 使用 ROWNUM 查询2. 使用 ROW_NUMBER() 函数3. 使用 FETCH FI

Python MySQL如何通过Binlog获取变更记录恢复数据

《PythonMySQL如何通过Binlog获取变更记录恢复数据》本文介绍了如何使用Python和pymysqlreplication库通过MySQL的二进制日志(Binlog)获取数据库的变更记录... 目录python mysql通过Binlog获取变更记录恢复数据1.安装pymysqlreplicat