PyTorch BROADCASTING SEMANTICS

2023-11-29 03:58

本文主要是介绍PyTorch BROADCASTING SEMANTICS,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

PyTorch BROADCASTING SEMANTICS

官网资料:https://pytorch.org/docs/stable/notes/broadcasting.html

Broadcasting 是指不同大小的两个 array 应该怎样处理的操作。通常情况下,小一点的数组会被 broadcast 到大一点的,这样才能保持大小一致。

两个 Tensors 只有在下列情况下才能进行 broadcasting 操作:

  • 每个 tensor 至少有一维
  • 遍历所有的维度,从尾部维度开始 ,每个对应的维度大小要么相同; 要么其中一个是 1; 要么其中一个不存在

举例说明

import torch
  • 相同维度,一定可以 broadcasting。故可以互相操作
x=torch.empty(2,4,3)
y=torch.empty(2,4,3)print(x.shape)
print(y.shape)
torch.Size([2, 4, 3])
torch.Size([2, 4, 3])
x.add(y)
tensor([[[1.0061e-42, 0.0000e+00, 0.0000e+00],[0.0000e+00, 0.0000e+00, 0.0000e+00],[0.0000e+00, 0.0000e+00, 0.0000e+00],[0.0000e+00, 0.0000e+00, 0.0000e+00]],[[0.0000e+00, 0.0000e+00, 0.0000e+00],[0.0000e+00, 0.0000e+00, 0.0000e+00],[0.0000e+00, 0.0000e+00, 0.0000e+00],[0.0000e+00, 0.0000e+00, 0.0000e+00]]])
  • x 没有符合“至少有一个维度”,所以不可以 broadcasting. 故不能直接操作
x=torch.empty((0,))
y=torch.empty(2,2)
print(x.shape)
print(y.shape)
torch.Size([0])
torch.Size([2, 2])
x.add(y)
---------------------------------------------------------------------------RuntimeError                              Traceback (most recent call last)<ipython-input-24-2f346478ebe1> in <module>()
----> 1 x.add(y)RuntimeError: The size of tensor a (0) must match the size of tensor b (2) at non-singleton dimension 1
  • 遍历所有的维度,从尾部维度开始 ,每个对应的维度大小要么相同; 要么其中一个是 1; 要么其中一个不存在

需要变化维度才能操作

# 按照尾部维度对齐
x=torch.empty(5,3,4,1)
y=torch.empty(  3,1,1)
# x 和 y 是 broadcastable
# 1st 尾部维度: 都为 1
# 2nd 尾部维度: y 为 1
# 3rd 尾部维度: x 和 y 相同
# 4th 尾部维度: y 维度不存在

如果两个 tensors 可以 broadcasting,那么计算过程是这样的:

  • 如果 x 和 y 的维度不同,那么对于维度较小的 tensor 的维度补 1,使它们维度相同。
  • 然后,对于每个维度,计算结果的维度值就是 x 和 y 中较大的那个值。

x 和 y 是 broadcastable,即使唯独不同也可以操作,操作后的结果,取唯独最大的一端

x=torch.empty(5,1,4,1)
y=torch.empty(  3,1,1)print(x.shape)
print(y.shape)
torch.Size([5, 1, 4, 1])
torch.Size([3, 1, 1])
(x+y).size()
torch.Size([5, 3, 4, 1])

来看一个不对的例子:原因 x和y 不是broadcastable,主要 2和3对应的维度不满足条件

x=torch.empty(5,2,4,1)
y=torch.empty(  3,1,1)
(x+y).size()
---------------------------------------------------------------------------RuntimeError                              Traceback (most recent call last)<ipython-input-37-7836c771d982> in <module>()1 x=torch.empty(5,2,4,1)2 y=torch.empty(3,1,1)
----> 3 (x+y).size()RuntimeError: The size of tensor a (2) must match the size of tensor b (3) at non-singleton dimension 1

这篇关于PyTorch BROADCASTING SEMANTICS的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/431357

相关文章

使用PyTorch实现手写数字识别功能

《使用PyTorch实现手写数字识别功能》在人工智能的世界里,计算机视觉是最具魅力的领域之一,通过PyTorch这一强大的深度学习框架,我们将在经典的MNIST数据集上,见证一个神经网络从零开始学会识... 目录当计算机学会“看”数字搭建开发环境MNIST数据集解析1. 认识手写数字数据库2. 数据预处理的

Pytorch微调BERT实现命名实体识别

《Pytorch微调BERT实现命名实体识别》命名实体识别(NER)是自然语言处理(NLP)中的一项关键任务,它涉及识别和分类文本中的关键实体,BERT是一种强大的语言表示模型,在各种NLP任务中显著... 目录环境准备加载预训练BERT模型准备数据集标记与对齐微调 BERT最后总结环境准备在继续之前,确

pytorch+torchvision+python版本对应及环境安装

《pytorch+torchvision+python版本对应及环境安装》本文主要介绍了pytorch+torchvision+python版本对应及环境安装,安装过程中需要注意Numpy版本的降级,... 目录一、版本对应二、安装命令(pip)1. 版本2. 安装全过程3. 命令相关解释参考文章一、版本对

从零教你安装pytorch并在pycharm中使用

《从零教你安装pytorch并在pycharm中使用》本文详细介绍了如何使用Anaconda包管理工具创建虚拟环境,并安装CUDA加速平台和PyTorch库,同时在PyCharm中配置和使用PyTor... 目录背景介绍安装Anaconda安装CUDA安装pytorch报错解决——fbgemm.dll连接p

pycharm远程连接服务器运行pytorch的过程详解

《pycharm远程连接服务器运行pytorch的过程详解》:本文主要介绍在Linux环境下使用Anaconda管理不同版本的Python环境,并通过PyCharm远程连接服务器来运行PyTorc... 目录linux部署pytorch背景介绍Anaconda安装Linux安装pytorch虚拟环境安装cu

PyTorch使用教程之Tensor包详解

《PyTorch使用教程之Tensor包详解》这篇文章介绍了PyTorch中的张量(Tensor)数据结构,包括张量的数据类型、初始化、常用操作、属性等,张量是PyTorch框架中的核心数据结构,支持... 目录1、张量Tensor2、数据类型3、初始化(构造张量)4、常用操作5、常用属性5.1 存储(st

Nn criterions don’t compute the gradient w.r.t. targets error「pytorch」 (debug笔记)

Nn criterions don’t compute the gradient w.r.t. targets error「pytorch」 ##一、 缘由及解决方法 把这个pytorch-ddpg|github搬到jupyter notebook上运行时,出现错误Nn criterions don’t compute the gradient w.r.t. targets error。注:我用

【超级干货】2天速成PyTorch深度学习入门教程,缓解研究生焦虑

3、cnn基础 卷积神经网络 输入层 —输入图片矩阵 输入层一般是 RGB 图像或单通道的灰度图像,图片像素值在[0,255],可以用矩阵表示图片 卷积层 —特征提取 人通过特征进行图像识别,根据左图直的笔画判断X,右图曲的笔画判断圆 卷积操作 激活层 —加强特征 池化层 —压缩数据 全连接层 —进行分类 输出层 —输出分类概率 4、基于LeNet

pytorch torch.nn.functional.one_hot函数介绍

torch.nn.functional.one_hot 是 PyTorch 中用于生成独热编码(one-hot encoding)张量的函数。独热编码是一种常用的编码方式,特别适用于分类任务或对离散的类别标签进行处理。该函数将整数张量的每个元素转换为一个独热向量。 函数签名 torch.nn.functional.one_hot(tensor, num_classes=-1) 参数 t

pytorch计算网络参数量和Flops

from torchsummary import summarysummary(net, input_size=(3, 256, 256), batch_size=-1) 输出的参数是除以一百万(/1000000)M, from fvcore.nn import FlopCountAnalysisinputs = torch.randn(1, 3, 256, 256).cuda()fl