pytorch中torch.bernoulli的使用方法-随机丢弃数据中的部分数据

2024-03-03 18:04

本文主要是介绍pytorch中torch.bernoulli的使用方法-随机丢弃数据中的部分数据,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

今天在学习深度学习代码时,使用到如何将数据中的嵌入信息进行随机的丢弃。
在 PyTorch 中,torch.bernoulli 是用于生成服从伯努利分布的随机张量的函数。伯努利分布是一种二元分布,产生的值为0或1,具有概率 p 和 1-p。

语法

torch.bernoulli(input, *, generator=None, out=None) -> Tensor

input(张量):一个包含概率值的张量。每个元素表示生成的随机数为1的概率。张量的元素值必须在区间 [0, 1] 中。生成的随机数在对应位置上的概率为该位置上的值。

generator(Generator,可选):用于生成随机数的随机数生成器。

out(张量,可选):输出张量。如果提供了此参数,则结果将被写入这个张量。否则,将创建一个新的张量并返回。

返回值

一个与输入张量具有相同形状的张量,其中每个元素都是根据输入张量中对应位置上的概率值生成的随机数。生成的随机数为1的概率由输入张量中对应位置上的值确定。

具体应用代码

def dropout(x, drop_prob, shared_axes=[], training=False):"""Apply dropout to input tensor.Parameters----------input_tensor: ``torch.FloatTensor``A tensor of shape ``(batch_size, ..., num_timesteps, embedding_dim)``Returns-------output: ``torch.FloatTensor``A tensor of shape ``(batch_size, ..., num_timesteps, embedding_dim)`` with dropout applied."""if drop_prob == 0 or drop_prob == None or (not training):return xsz = list(x.size())for i in shared_axes:sz[i] = 1x_new = x.new(*sz)x_bernoulli = x_new.bernoulli_(1. - drop_prob)mask = x_bernoulli.div_(1. - drop_prob)mask = mask.expand_as(x)return x * mask

这篇关于pytorch中torch.bernoulli的使用方法-随机丢弃数据中的部分数据的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/770459

相关文章

C# 比较两个list 之间元素差异的常用方法

《C#比较两个list之间元素差异的常用方法》:本文主要介绍C#比较两个list之间元素差异,本文通过实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧... 目录1. 使用Except方法2. 使用Except的逆操作3. 使用LINQ的Join,GroupJoin

Linux中压缩、网络传输与系统监控工具的使用完整指南

《Linux中压缩、网络传输与系统监控工具的使用完整指南》在Linux系统管理中,压缩与传输工具是数据备份和远程协作的桥梁,而系统监控工具则是保障服务器稳定运行的眼睛,下面小编就来和大家详细介绍一下它... 目录引言一、压缩与解压:数据存储与传输的优化核心1. zip/unzip:通用压缩格式的便捷操作2.

MySQL查询JSON数组字段包含特定字符串的方法

《MySQL查询JSON数组字段包含特定字符串的方法》在MySQL数据库中,当某个字段存储的是JSON数组,需要查询数组中包含特定字符串的记录时传统的LIKE语句无法直接使用,下面小编就为大家介绍两种... 目录问题背景解决方案对比1. 精确匹配方案(推荐)2. 模糊匹配方案参数化查询示例使用场景建议性能优

关于集合与数组转换实现方法

《关于集合与数组转换实现方法》:本文主要介绍关于集合与数组转换实现方法,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1、Arrays.asList()1.1、方法作用1.2、内部实现1.3、修改元素的影响1.4、注意事项2、list.toArray()2.1、方

使用Python实现可恢复式多线程下载器

《使用Python实现可恢复式多线程下载器》在数字时代,大文件下载已成为日常操作,本文将手把手教你用Python打造专业级下载器,实现断点续传,多线程加速,速度限制等功能,感兴趣的小伙伴可以了解下... 目录一、智能续传:从崩溃边缘抢救进度二、多线程加速:榨干网络带宽三、速度控制:做网络的好邻居四、终端交互

Python中注释使用方法举例详解

《Python中注释使用方法举例详解》在Python编程语言中注释是必不可少的一部分,它有助于提高代码的可读性和维护性,:本文主要介绍Python中注释使用方法的相关资料,需要的朋友可以参考下... 目录一、前言二、什么是注释?示例:三、单行注释语法:以 China编程# 开头,后面的内容为注释内容示例:示例:四

一文详解Git中分支本地和远程删除的方法

《一文详解Git中分支本地和远程删除的方法》在使用Git进行版本控制的过程中,我们会创建多个分支来进行不同功能的开发,这就容易涉及到如何正确地删除本地分支和远程分支,下面我们就来看看相关的实现方法吧... 目录技术背景实现步骤删除本地分支删除远程www.chinasem.cn分支同步删除信息到其他机器示例步骤

Go语言数据库编程GORM 的基本使用详解

《Go语言数据库编程GORM的基本使用详解》GORM是Go语言流行的ORM框架,封装database/sql,支持自动迁移、关联、事务等,提供CRUD、条件查询、钩子函数、日志等功能,简化数据库操作... 目录一、安装与初始化1. 安装 GORM 及数据库驱动2. 建立数据库连接二、定义模型结构体三、自动迁

MyBatisPlus如何优化千万级数据的CRUD

《MyBatisPlus如何优化千万级数据的CRUD》最近负责的一个项目,数据库表量级破千万,每次执行CRUD都像走钢丝,稍有不慎就引起数据库报警,本文就结合这个项目的实战经验,聊聊MyBatisPl... 目录背景一、MyBATis Plus 简介二、千万级数据的挑战三、优化 CRUD 的关键策略1. 查

python实现对数据公钥加密与私钥解密

《python实现对数据公钥加密与私钥解密》这篇文章主要为大家详细介绍了如何使用python实现对数据公钥加密与私钥解密,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录公钥私钥的生成使用公钥加密使用私钥解密公钥私钥的生成这一部分,使用python生成公钥与私钥,然后保存在两个文