论文讲解:A Physics-based Noise Formation Model for Extreme Low-light Raw Denoising

本文主要是介绍论文讲解:A Physics-based Noise Formation Model for Extreme Low-light Raw Denoising,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

论文讲解:A Physics-based Noise Formation Model for Extreme Low-light Raw Denoising

Introduction

这是发表在 CVPR 2020 上的一篇文章,依然是介绍如何构造更加真实的噪声数据,以用来处理暗光下的降噪问题,这篇文章比较系统地介绍了 sensor 在成像过程中的噪声是如何产生的,以及如何对噪声分布进行估计和参数的标定。对于了解 ISP 成像中的噪声问题有比较好的借鉴。

在 ISP 中,比较关键的两个图像质量一个是噪声,另外一个就是颜色,暗光下的噪声一般都比较严重,而且暗光下的颜色也不太好校正,暗光下的白平衡一般也是一个比较困难的问题。白平衡及颜色可以留在后面的文章再讨论,今天主要介绍暗光下的降噪问题。

ISP 中,噪声主要分为固定模式噪声和随机噪声,固定模式噪声,及 fixed pattern noise (FPN) 和 sensor 的制造工艺有关,这里不做讨论,一般学术界或者工业界处理比较多的都是随机噪声,随机噪声在 sensor 成像的流程中有几个地方都会产生:

在这里插入图片描述

  • 插入图片

如上图所示,环境中的光和物体反射的光,通过镜头模组,照射到 CMOS sensor 上,通过光电效应,光子激发出电子,电子在 sensor 上的电势井里累积形成电压,电压信号通过模拟放大器放大,得到模拟电信号,然后再通过模数转换器及量化得到数字信号,量化输出 RAW 数据,这是 sensor 成像的一般流程,这个过程中,会有几种噪声产生,光电转换会产生 shot noise,模拟放大会产生 read noise,模数转换会产生量化噪声,除此之外,sensor上也会产生暗电流,从而形成暗电流噪声。

Physics-based Noise Formation Model

RAW 域的成像模型可以表示成如下式:

D = K I + N D = KI + N D=KI+N

其中, I I I 表示光电转化的电荷数, K K K 表示整个系统的增益, N N N 表示噪声

这篇文章从这个表达式出发,对不同流程中的噪声形态进行分布估计。

From Photon to Electrons

首先是光电转换,光线通过镜头模组照射到 sensor 上,激发出电荷,这个过程是有一定的随机性的,激发出的电荷多少与 sensor 的光电转换效率有关,也与 sensor 上每个 pixel 的 size 大小有关,但这个过程可以用泊松分布来表示:

( I + N p ) ∼ P ( I ) (I + N_p) \sim \mathcal{P}(I) (I+Np)P(I)

其中, N p N_p Np 表示光子散粒噪声,可以看到这个分布和光照强度有关,shot noise 是光电效应带来的固有属性,很难消除,除了 shot noise,还有一种称为暗电流的噪声,因为光电转换的时候,sensor 会发热,从而也会激发出电子,从而产生暗电流噪声,为什么称为暗电流噪声,因为我们把镜头遮住,在一个完全无光的环境下拍摄图像,虽然拍摄的 RAW 图是黑的,但不是绝对的 0 值,而是有一定的数值,这些数值其实就是暗电流噪声,暗电流噪声一般可以通过标定的方式得到,这里成为 N d N_d Nd

From Electrons to Voltage

光电转换之后,接下来就是电荷转换为电压,电压信号经过模拟器放大,得到模拟电信号,这个过程也会产生随机噪声,文章里把噪声分成 thermal noise, reset noise, source follower noise and banding pattern noise,这些噪声统称 read noise,

N r e a d = N t + N s + N d N_{read} = N_t + N_s + N_d Nread=Nt+Ns+Nd

一般我们都认为 read noise 服从高斯分布,不过这篇文章对 read noise 用了另外一种分布来表示,Tukey lambda distribution,

N r e a d ∼ T L ( λ , 0 , σ T L ) N_{read} \sim TL(\lambda, 0, \sigma_{TL}) NreadTL(λ,0,σTL)

文章中还介绍了一种 Banding pattern noise,这种噪声分布建模成高斯分布。

From Voltage to Digital Numbers

最后就是量化噪声,这里的量化噪声建模成均匀分布:

N q ∼ U ( − 1 / 2 q , 1 / 2 q ) N_q \sim U(-1/2q, 1/2q) NqU(1/2q,1/2q)

To summarize

所以最终,噪声的分布表示为:

N = K N p + N r e a d + N r + N q N = KN_p + N_{read} + N_r + N_q N=KNp+Nread+Nr+Nq

分别对应上面的 shot noise,read noise,row noise 以及 quantization noise

Estimating noise parameters

对噪声分布进行建模之后,剩下的就是对模型参数的估计,从噪声模型的表达式来看,需要估计的参数有系统增益 K K K, 散粒噪声 N p N_p Np,读出噪声 N r e a d N_{read} Nread, 行噪声 N r N_r Nr 及量化噪声 N q N_q Nq

为了估计这些参数,文章中设计了一些实验,拍摄了两种类型的图像,一种是 flat-field images,另外一种是 bias images,其中 flat-field images 就是光照均匀的环境下获取的图像,这样可以估计出 K 值,然后进而估计出图像亮度 I 值,然后再构造一个泊松分布,将噪声添加到 I 上再乘以 K 值,从而模拟 shot noise。

在这里插入图片描述

bias images 是另外一种图像,简单来说就是在黑暗的环境下,盖住镜头,拍摄多帧图像,对图像做离散傅里叶变换,可以看到一条明显的竖直的线,这条线和 banding pattern noise 有关,为了分析噪声的分布,可以对图像的每一行求平均值,然后做一个均值,方差的估计,从而估计出 banding pattern noise 的 scale,然后用 bias images 减去 banding pattern noise,用一个统计模型去拟合剩下的残差,最后得到一个联合的参数分布模型:

log ⁡ ( K ) ∼ U ( l o g ( K ^ m i n ) , K ^ m a x ) log ⁡ ( σ T L ) ∣ log ⁡ ( K ) ∼ N ( a T L log ⁡ ( K ) + b T L , σ ^ T L ) log ⁡ ( σ r ) ∣ log ⁡ ( K ) ∼ N ( a r log ⁡ ( K ) + b r , σ ^ r ) \log(K) \sim U (log(\hat{K}_{min}), \hat{K}_{max}) \\ \log(\sigma_{TL})|\log(K) \sim \mathcal{N}(a_{TL} \log(K) + b_{TL}, \hat{\sigma}_{TL}) \\ \log(\sigma_{r})|\log(K) \sim \mathcal{N}(a_r\log(K) + b_r, \hat{\sigma}_{r} ) log(K)U(log(K^min),K^max)log(σTL)log(K)N(aTLlog(K)+bTL,σ^TL)log(σr)log(K)N(arlog(K)+br,σ^r)

其中, U ( ⋅ , ⋅ ) U(\cdot,\cdot) U(,) 表示均匀分布, N \mathcal{N} N 表示高斯分布。

通过这组参数分布,可以进行噪声的估计,从而模拟真实环境的噪声分布。

这篇关于论文讲解:A Physics-based Noise Formation Model for Extreme Low-light Raw Denoising的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/457395

相关文章

Retrieval-based-Voice-Conversion-WebUI模型构建指南

一、模型介绍 Retrieval-based-Voice-Conversion-WebUI(简称 RVC)模型是一个基于 VITS(Variational Inference with adversarial learning for end-to-end Text-to-Speech)的简单易用的语音转换框架。 具有以下特点 简单易用:RVC 模型通过简单易用的网页界面,使得用户无需深入了

AI hospital 论文Idea

一、Benchmarking Large Language Models on Communicative Medical Coaching: A Dataset and a Novel System论文地址含代码 大多数现有模型和工具主要迎合以患者为中心的服务。这项工作深入探讨了LLMs在提高医疗专业人员的沟通能力。目标是构建一个模拟实践环境,人类医生(即医学学习者)可以在其中与患者代理进行医学

计算机毕业设计 大学志愿填报系统 Java+SpringBoot+Vue 前后端分离 文档报告 代码讲解 安装调试

🍊作者:计算机编程-吉哥 🍊简介:专业从事JavaWeb程序开发,微信小程序开发,定制化项目、 源码、代码讲解、文档撰写、ppt制作。做自己喜欢的事,生活就是快乐的。 🍊心愿:点赞 👍 收藏 ⭐评论 📝 🍅 文末获取源码联系 👇🏻 精彩专栏推荐订阅 👇🏻 不然下次找不到哟~Java毕业设计项目~热门选题推荐《1000套》 目录 1.技术选型 2.开发工具 3.功能

论文翻译:arxiv-2024 Benchmark Data Contamination of Large Language Models: A Survey

Benchmark Data Contamination of Large Language Models: A Survey https://arxiv.org/abs/2406.04244 大规模语言模型的基准数据污染:一项综述 文章目录 大规模语言模型的基准数据污染:一项综述摘要1 引言 摘要 大规模语言模型(LLMs),如GPT-4、Claude-3和Gemini的快

论文阅读笔记: Segment Anything

文章目录 Segment Anything摘要引言任务模型数据引擎数据集负责任的人工智能 Segment Anything Model图像编码器提示编码器mask解码器解决歧义损失和训练 Segment Anything 论文地址: https://arxiv.org/abs/2304.02643 代码地址:https://github.com/facebookresear

论文翻译:ICLR-2024 PROVING TEST SET CONTAMINATION IN BLACK BOX LANGUAGE MODELS

PROVING TEST SET CONTAMINATION IN BLACK BOX LANGUAGE MODELS https://openreview.net/forum?id=KS8mIvetg2 验证测试集污染在黑盒语言模型中 文章目录 验证测试集污染在黑盒语言模型中摘要1 引言 摘要 大型语言模型是在大量互联网数据上训练的,这引发了人们的担忧和猜测,即它们可能已

OmniGlue论文详解(特征匹配)

OmniGlue论文详解(特征匹配) 摘要1. 引言2. 相关工作2.1. 广义局部特征匹配2.2. 稀疏可学习匹配2.3. 半稠密可学习匹配2.4. 与其他图像表示匹配 3. OmniGlue3.1. 模型概述3.2. OmniGlue 细节3.2.1. 特征提取3.2.2. 利用DINOv2构建图形。3.2.3. 信息传播与新的指导3.2.4. 匹配层和损失函数3.2.5. 与Super

BERT 论文逐段精读【论文精读】

BERT: 近 3 年 NLP 最火 CV: 大数据集上的训练好的 NN 模型,提升 CV 任务的性能 —— ImageNet 的 CNN 模型 NLP: BERT 简化了 NLP 任务的训练,提升了 NLP 任务的性能 BERT 如何站在巨人的肩膀上的?使用了哪些 NLP 已有的技术和思想?哪些是 BERT 的创新? 1标题 + 作者 BERT: Pre-trainin

MVC(Model-View-Controller)和MVVM(Model-View-ViewModel)

1、MVC MVC(Model-View-Controller) 是一种常用的架构模式,用于分离应用程序的逻辑、数据和展示。它通过三个核心组件(模型、视图和控制器)将应用程序的业务逻辑与用户界面隔离,促进代码的可维护性、可扩展性和模块化。在 MVC 模式中,各组件可以与多种设计模式结合使用,以增强灵活性和可维护性。以下是 MVC 各组件与常见设计模式的关系和作用: 1. Model(模型)

[论文笔记]LLM.int8(): 8-bit Matrix Multiplication for Transformers at Scale

引言 今天带来第一篇量化论文LLM.int8(): 8-bit Matrix Multiplication for Transformers at Scale笔记。 为了简单,下文中以翻译的口吻记录,比如替换"作者"为"我们"。 大语言模型已被广泛采用,但推理时需要大量的GPU内存。我们开发了一种Int8矩阵乘法的过程,用于Transformer中的前馈和注意力投影层,这可以将推理所需