去噪论文阅读——[CVPR2022]Blind2Unblind: Self-Supervised Image Denoising with Visible Blind Spots

本文主要是介绍去噪论文阅读——[CVPR2022]Blind2Unblind: Self-Supervised Image Denoising with Visible Blind Spots,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

知乎同名账号同步发布

今天看一篇自监督图像去噪论文:

题目:Blind2Unblind: Self-Supervised Image Denoising with Visible Blind Spots
paper:https://arxiv.org/abs/2203.06967
code:https://github.com/demonsjin/Blind2Unblind

目录

  • 前置知识
  • 创新点
  • 模型架构
  • inference阶段
  • 实验

前置知识

需要了解Noise2Void,如果不了解,可以看我写的笔记。

看完之后,我们知道,对于Noise2void(N2V)来说,给定一张noisy image y,先将它上面的一些点mask掉,然后输入给神经网络,神经网络输出的target为y本身,这样网络就能够学到去噪的方法。

上面的这种方法被称为blindspots schemes,因为它mask掉了input的一些pixels,使得网络看不见这些pixel。

Blind2Unblind文中提到了“relief from identity mapping”,其指出含有盲点的方法,能够避免恒等映射。所谓恒等映射,指的就是如果在blindspots schemes中,不去mask掉input中的一些pixels,而是将完整的y输入给神经网络,并且神经网络的target是输出y本身,那么网络就会学到恒等映射,而不是学到去噪的方法。

但另一方面,作者也提出,blindspots schemes也有缺点,那就是会导致information loss,因为网络看不到被mask掉的这些点的信息。

创新点

作者指出,N2V这一类的方法,由于盲点的存在,能够避免网络学习恒等映射,同时根据数学分析和实验证明,网络能够学到去噪。

所以作者准备使用blindspots schemes,但是作者同时也不想承受information loss,所以在架构设计的时候,他使用了raw noisy image y,也就是不进行mask操作的、原始的noisy image。这样,就能够利用到所有input像素点的信息,理论上讲避免了information loss。

模型架构

在这里插入图片描述
一张noisy image y通过一个global masker Ω操作,变成四张含有盲点的图片,这四张图片分别通过去噪网络f,获得四张去噪结果,然后通过global mask mapper h的操作,获得一张去噪结果 h ( f θ ( Ω y ) ) h(f_θ(Ω_y)) h(fθ(Ωy))。另一方面,完整的noisy image y也要通过去噪神经网络f,获得另一个去噪结果 f θ ( y ) f_θ(y) fθ(y)。为了简便起见,前者我称其为“含有盲点的去噪结果”,后者我称其为“不含盲点的去噪结果”。两者进行一个加权平均,获得的结果和y做loss,即 L r e v L_{rev} Lrev,rev的意思是re-visible,也就是本来是一个blindspots的方案,现在因为引入了raw noisy image y,它变得不再那么blind了,不再需要承受information loss了。 L r e g L_{reg} Lreg是正则化项,意义自明。

在这里插入图片描述
架构图中的Ω和h操作也非常简单。作者用4×4的图片进行举例说明,先将图片分成若干2×2的cell,分别同时对每个cell的左上角、右上角、左下角、右下角进行mask操作,获得四张含有盲点的图片,输入去噪网络,得到四张去噪结果。四张去噪结果中的灰色代表和去噪前盲点所在位置对应的pixel,h要做的事情就是将所有灰色的pixel,相对位置不发生变化,提取出来组成一张图片,也就是最右边的灰色图片,它就是所有盲点对应的去噪结果。上图中有半部分的最上面,对应的就是完整的y得到的去噪结果(不含盲点)。两个去噪结果要一同使用来训练。

inference阶段

在这里插入图片描述
注意一下上图就行了,意思就是说不含盲点的去噪结果,从经验上来讲要拥有更好的效果,所以inference阶段只使用它。

实验

做了合成图像去噪、真实图像去噪,部分情况下指标不是最高,节选部分显著的实验结果如下:
在这里插入图片描述
这是SIDD上的结果,可以看出确实比N2V要好,但是和NBR2NBR无明显差异。

这篇关于去噪论文阅读——[CVPR2022]Blind2Unblind: Self-Supervised Image Denoising with Visible Blind Spots的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/395560

相关文章

JAVA智听未来一站式有声阅读平台听书系统小程序源码

智听未来,一站式有声阅读平台听书系统 🌟 开篇:遇见未来,从“智听”开始 在这个快节奏的时代,你是否渴望在忙碌的间隙,找到一片属于自己的宁静角落?是否梦想着能随时随地,沉浸在知识的海洋,或是故事的奇幻世界里?今天,就让我带你一起探索“智听未来”——这一站式有声阅读平台听书系统,它正悄悄改变着我们的阅读方式,让未来触手可及! 📚 第一站:海量资源,应有尽有 走进“智听

AI hospital 论文Idea

一、Benchmarking Large Language Models on Communicative Medical Coaching: A Dataset and a Novel System论文地址含代码 大多数现有模型和工具主要迎合以患者为中心的服务。这项工作深入探讨了LLMs在提高医疗专业人员的沟通能力。目标是构建一个模拟实践环境,人类医生(即医学学习者)可以在其中与患者代理进行医学

论文翻译:arxiv-2024 Benchmark Data Contamination of Large Language Models: A Survey

Benchmark Data Contamination of Large Language Models: A Survey https://arxiv.org/abs/2406.04244 大规模语言模型的基准数据污染:一项综述 文章目录 大规模语言模型的基准数据污染:一项综述摘要1 引言 摘要 大规模语言模型(LLMs),如GPT-4、Claude-3和Gemini的快

论文阅读笔记: Segment Anything

文章目录 Segment Anything摘要引言任务模型数据引擎数据集负责任的人工智能 Segment Anything Model图像编码器提示编码器mask解码器解决歧义损失和训练 Segment Anything 论文地址: https://arxiv.org/abs/2304.02643 代码地址:https://github.com/facebookresear

论文翻译:ICLR-2024 PROVING TEST SET CONTAMINATION IN BLACK BOX LANGUAGE MODELS

PROVING TEST SET CONTAMINATION IN BLACK BOX LANGUAGE MODELS https://openreview.net/forum?id=KS8mIvetg2 验证测试集污染在黑盒语言模型中 文章目录 验证测试集污染在黑盒语言模型中摘要1 引言 摘要 大型语言模型是在大量互联网数据上训练的,这引发了人们的担忧和猜测,即它们可能已

lvgl8.3.6 控件垂直布局 label控件在image控件的下方显示

在使用 LVGL 8.3.6 创建一个垂直布局,其中 label 控件位于 image 控件下方,你可以使用 lv_obj_set_flex_flow 来设置布局为垂直,并确保 label 控件在 image 控件后添加。这里是如何步骤性地实现它的一个基本示例: 创建父容器:首先创建一个容器对象,该对象将作为布局的基础。设置容器为垂直布局:使用 lv_obj_set_flex_flow 设置容器

OmniGlue论文详解(特征匹配)

OmniGlue论文详解(特征匹配) 摘要1. 引言2. 相关工作2.1. 广义局部特征匹配2.2. 稀疏可学习匹配2.3. 半稠密可学习匹配2.4. 与其他图像表示匹配 3. OmniGlue3.1. 模型概述3.2. OmniGlue 细节3.2.1. 特征提取3.2.2. 利用DINOv2构建图形。3.2.3. 信息传播与新的指导3.2.4. 匹配层和损失函数3.2.5. 与Super

软件架构模式:5 分钟阅读

原文: https://orkhanscience.medium.com/software-architecture-patterns-5-mins-read-e9e3c8eb47d2 软件架构模式:5 分钟阅读 当有人潜入软件工程世界时,有一天他需要学习软件架构模式的基础知识。当我刚接触编码时,我不知道从哪里获得简要介绍现有架构模式的资源,这样它就不会太详细和混乱,而是非常抽象和易

BERT 论文逐段精读【论文精读】

BERT: 近 3 年 NLP 最火 CV: 大数据集上的训练好的 NN 模型,提升 CV 任务的性能 —— ImageNet 的 CNN 模型 NLP: BERT 简化了 NLP 任务的训练,提升了 NLP 任务的性能 BERT 如何站在巨人的肩膀上的?使用了哪些 NLP 已有的技术和思想?哪些是 BERT 的创新? 1标题 + 作者 BERT: Pre-trainin

[论文笔记]LLM.int8(): 8-bit Matrix Multiplication for Transformers at Scale

引言 今天带来第一篇量化论文LLM.int8(): 8-bit Matrix Multiplication for Transformers at Scale笔记。 为了简单,下文中以翻译的口吻记录,比如替换"作者"为"我们"。 大语言模型已被广泛采用,但推理时需要大量的GPU内存。我们开发了一种Int8矩阵乘法的过程,用于Transformer中的前馈和注意力投影层,这可以将推理所需