Pytorch中torch.nn.ConvTranspose2d函数详解

2023-10-16 07:08

本文主要是介绍Pytorch中torch.nn.ConvTranspose2d函数详解,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

原理

ConvTranspose,即反卷积,通过卷积的形式,利用图像特征“恢复”到原图像。

当然,此处卷积核的权重参数与前面下采样卷积核的参数互相独立,且可更新。

也就是说“反”卷积不是之前的逆过程,无法保证完全恢复。

事实上,反卷积仅仅保留了特征与前级特征,点之间的对应关系

代码详解

简明起见,引入“正卷积”概念,意指从 低级特征 到 高级特征 的过程。

ConvTranspose2d 与 Conv2d 的参数形式、含义基本一致。需要注意的仅两点:

  • out_padding 这个也是补零,但是对反卷积后的特征图补零。
    • 设置该参数是由于不同尺寸的特征经卷积(下采样)后可以产生相同尺寸的特征,那么在反卷积对应回去的时候,通过out_padding解决多尺寸的问题。说白了,根本原因在于之前的卷积(下采样)有时会无法利用所有原始信息,有边角料未利用,如:input=5x5,padding=0,kernel_size=2x2,stride=2这种情况。
  • stride & padding 卷积步长和补零。
    • 反直觉的是:padding为之前“正卷积”补零个数
      • padding=0,“正卷积”为valid模式,那么要恢复原尺寸,反卷积就应为full模式,即为该特征两侧各补kernel_size-1个0;
      • padding=kernel_size-1,那么“正卷积”为full模式,则反卷积不用再补零。
      • padding=p,where 0<p<kernel_size-1,反卷积每侧补零数为kernel_size-1-p,即所谓p'=kernel_size-1-p。
    • stride 不再控制上采样的步长,而是控制输入特征图中,像素点间的间隙。原来的步长概念此时恒为1。stride默认为1,即无间隙。若stride=m,则输入特征图的像素点增添间隙,散开来,尺寸变为(input-1)x stride+1。
      • 事实上,这里的增大间隙正是下采样增大步长的对应过程。原来增大步长后,所卷积得到的特征图的相邻点,映射到原特征的区域之间的间距会变大。那么再通过卷积反求原来的低级特征时,就要将这个间距实实在在体现到对高级特征的处理上,即所谓增大间隙。(反卷积又称分数步长卷积,此即分数步长之体现、由来)

综上,给出ConvTranspose2d输入、输出特征大小计算式:

令输入特征大小为 i,输出为 o,反卷积核为 k x k,则有

o=\frac{\left \{ \left [\left ( i-1 \right )\times stride +1 \right ] +\left [ \left ( k-1-padding \right ) \times 2\right ]-k\right \}}{default\equiv 1}+1+outpadding

o=\left ( i-1 \right )\times stride+k-2padding+outpadding

 

可参考如下链接:Transposed convolution arithmetic

这篇关于Pytorch中torch.nn.ConvTranspose2d函数详解的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/219863

相关文章

MySQL中的交叉连接、自然连接和内连接查询详解

《MySQL中的交叉连接、自然连接和内连接查询详解》:本文主要介绍MySQL中的交叉连接、自然连接和内连接查询,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、引入二、交php叉连接(cross join)三、自然连接(naturalandroid join)四

Go 语言中的select语句详解及工作原理

《Go语言中的select语句详解及工作原理》在Go语言中,select语句是用于处理多个通道(channel)操作的一种控制结构,它类似于switch语句,本文给大家介绍Go语言中的select语... 目录Go 语言中的 select 是做什么的基本功能语法工作原理示例示例 1:监听多个通道示例 2:带

mysql的基础语句和外键查询及其语句详解(推荐)

《mysql的基础语句和外键查询及其语句详解(推荐)》:本文主要介绍mysql的基础语句和外键查询及其语句详解(推荐),本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋... 目录一、mysql 基础语句1. 数据库操作 创建数据库2. 表操作 创建表3. CRUD 操作二、外键

Spring Boot项目部署命令java -jar的各种参数及作用详解

《SpringBoot项目部署命令java-jar的各种参数及作用详解》:本文主要介绍SpringBoot项目部署命令java-jar的各种参数及作用的相关资料,包括设置内存大小、垃圾回收... 目录前言一、基础命令结构二、常见的 Java 命令参数1. 设置内存大小2. 配置垃圾回收器3. 配置线程栈大小

鸿蒙中@State的原理使用详解(HarmonyOS 5)

《鸿蒙中@State的原理使用详解(HarmonyOS5)》@State是HarmonyOSArkTS框架中用于管理组件状态的核心装饰器,其核心作用是实现数据驱动UI的响应式编程模式,本文给大家介绍... 目录一、@State在鸿蒙中是做什么的?二、@Spythontate的基本原理1. 依赖关系的收集2.

pytorch之torch.flatten()和torch.nn.Flatten()的用法

《pytorch之torch.flatten()和torch.nn.Flatten()的用法》:本文主要介绍pytorch之torch.flatten()和torch.nn.Flatten()的用... 目录torch.flatten()和torch.nn.Flatten()的用法下面举例说明总结torch

C++ Sort函数使用场景分析

《C++Sort函数使用场景分析》sort函数是algorithm库下的一个函数,sort函数是不稳定的,即大小相同的元素在排序后相对顺序可能发生改变,如果某些场景需要保持相同元素间的相对顺序,可使... 目录C++ Sort函数详解一、sort函数调用的两种方式二、sort函数使用场景三、sort函数排序

Redis实现延迟任务的三种方法详解

《Redis实现延迟任务的三种方法详解》延迟任务(DelayedTask)是指在未来的某个时间点,执行相应的任务,本文为大家整理了三种常见的实现方法,感兴趣的小伙伴可以参考一下... 目录1.前言2.Redis如何实现延迟任务3.代码实现3.1. 过期键通知事件实现3.2. 使用ZSet实现延迟任务3.3

C语言函数递归实际应用举例详解

《C语言函数递归实际应用举例详解》程序调用自身的编程技巧称为递归,递归做为一种算法在程序设计语言中广泛应用,:本文主要介绍C语言函数递归实际应用举例的相关资料,文中通过代码介绍的非常详细,需要的朋... 目录前言一、递归的概念与思想二、递归的限制条件 三、递归的实际应用举例(一)求 n 的阶乘(二)顺序打印

Python Faker库基本用法详解

《PythonFaker库基本用法详解》Faker是一个非常强大的库,适用于生成各种类型的伪随机数据,可以帮助开发者在测试、数据生成、或其他需要随机数据的场景中提高效率,本文给大家介绍PythonF... 目录安装基本用法主要功能示例代码语言和地区生成多条假数据自定义字段小结Faker 是一个 python