深度学习常用算子

2024-09-03 10:58
文章标签 学习 深度 常用 算子

本文主要是介绍深度学习常用算子,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

深度学习常用算子

算子功能
ReluReLU(x)=max(0,x)
LeakyReluLeakyRelu(x) = (x >= 0 ? x : x*negative_slope)
Relu6LeakyRelu(x) = max(max(x, 0), 6)
Tantanh(x)=(exp(x)-exp(-x))/(exp(x)+exp(-x))
sigmoidsigmoid(x) = 1. / (1. + exp(x))
PReluf(x) = max(x, 0) + slope_data[c] * min(x, 0)
Add+
Sub-
Mul*
RealDiv/
BiasAdd用于增加bias操作,通常bias是一维Tensor
MatMul矩阵乘
Axpy向量求和,公式:y += a * x
EltwiseOp多个Tensor对应位置元素进行相乘、相加、取最大值中一种操作
BatchNorm加快神经网络的训练收敛速度
LRNLocal Response Normalization,即局部响应归一化层 LRN这个概念和运用是出现在AlexNet中。LRN最初是生物学里的概念“相邻神经元抑制”,对局部神经元的活动创建竞争机制。使用LRN增加了泛化能力(使输出中响应比较大的值变得相对更大,并抑制其他响应较小的神经元),做了平滑处理,提高了1%~2%的识别率。
SsdNormalize作用:限制了一次归一化的范围 使用网络:SSD
Convolution分区域进行特征值提取
FullConnection看作一种特殊卷积层,或者看作矩阵乘;整个输入作为feature map,进行特征提取FC是一种迁移学习的结果,通常FC后面接Softmax,所以FC层的功能还包括矩阵维度变换,将维度变换为Softmax对应的维度
Correlation功能
DeConvolution采用分步计算的方法,完成普通3D核的计算,其好处在于提升卷积计算的效率
PoolingPooling的作用是将输入的图像划分为若干个矩形区域,对每个子区域输出最大值或平均值。Pooling减少了参数的数量,防止过拟合现象的发生。
Mean只有取均值功能的滑窗算子
ROIPooling对ROI进行pooling操作,从不同大小的方框得到固定大小相应 的feature maps 使用网络:Faster RCNN
ROIAlign作用:解决ROIPooling两次量化带来的问题,使用线性插值的方式来解决。使用网络:Mask-RCNN
PSROIPooling使用网络:R-FCN
Flatten将输入tensor中从start_axis维度到end_axis维度合并为1维
Reshape将输入Tensor描述转换为新的shape
FreespaceExtract将h维变成1,其他维度不变,从而完成对h的采样,采样值所在位置由输入的index参数决定
PackPack算子为TensorFlow原生算子,最新的版本已经改名为:Stack。该算子以指定的轴axis,将一个维度为R的张量数组转变成一个维度为R+1的张量。
Pad进行数据扩充
Permute调整Tensor的输入维度顺序
ShuffleChannel作用:调整C维的排序 使用网络:ShuffleNet
Title将输入数据在每个维度上复制指定次数来生成输出数据
Rsqrty = 1 / sqrt{x}
Scaley(x)=scale*x+bias
AbsValy(x)=
Powerf(x)= (scale * x + shift) ^ power
Softmax通常作为分类网络的最后一层,输出每类的概率
ClipBoxes将输入的框坐标限制在[0,img_w-1]和[0,img_h-1]之间。
DecodeBoxes将输入框的长宽坐标转换为描点坐标(框中心点坐标和长宽),然后进行修正,修正后再替换回长宽坐标
DetectPostProcess(1)对输入的框进行修正;(2)按照得分进行排序;(3)使用NMS进行过滤;(4)每个分类取前N个框输出。
FasterRcnnPredictions获取得分最高的N个框,需要进行NMS处理。
FSRDectionOutput作用:获取得分最高的N个框,需要进行NMS处理 输入数据:每个分类的得分数据、roi坐标、roi偏移、feature map的长和宽 使用网络:FasterRcnn
GenerateRPNProposals作用:根据输入rois坐标和得分,输出排序和NMS处理后的前N个框,框坐标形式为左上角和右下角 使用网络:Mask Rcnn
Proposal作用:根据锚点前后得分、锚点偏移、原始图片的长宽缩放,来获取得分最高的N个预选框;特点:对特征图上的每个点,生成scale*ratio个固定大小的窗口;即候选窗口是该算子生成的。
SsdDetectionOutput作用:用来生成预测框相对原图的真实坐标,并对所有预测框进行过滤,得到最终物体检测的结果。输出的每个预测框的信息包括image id ,lable, confidence以及四个坐标值。使用网络:SSD
SsdPriorBox作用:生成预选框 使用网络:SSD
Concat实现多个算子的拼接
spatial transform在CNN之前对feature map进行旋转、缩放、平移、剪切等操作.使用网络:Spatial Transformer Networks(STN)

这篇关于深度学习常用算子的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1132779

相关文章

SpringCloud动态配置注解@RefreshScope与@Component的深度解析

《SpringCloud动态配置注解@RefreshScope与@Component的深度解析》在现代微服务架构中,动态配置管理是一个关键需求,本文将为大家介绍SpringCloud中相关的注解@Re... 目录引言1. @RefreshScope 的作用与原理1.1 什么是 @RefreshScope1.

Python 中的异步与同步深度解析(实践记录)

《Python中的异步与同步深度解析(实践记录)》在Python编程世界里,异步和同步的概念是理解程序执行流程和性能优化的关键,这篇文章将带你深入了解它们的差异,以及阻塞和非阻塞的特性,同时通过实际... 目录python中的异步与同步:深度解析与实践异步与同步的定义异步同步阻塞与非阻塞的概念阻塞非阻塞同步

Linux上设置Ollama服务配置(常用环境变量)

《Linux上设置Ollama服务配置(常用环境变量)》本文主要介绍了Linux上设置Ollama服务配置(常用环境变量),Ollama提供了多种环境变量供配置,如调试模式、模型目录等,下面就来介绍一... 目录在 linux 上设置环境变量配置 OllamPOgxSRJfa手动安装安装特定版本查看日志在

Java常用注解扩展对比举例详解

《Java常用注解扩展对比举例详解》:本文主要介绍Java常用注解扩展对比的相关资料,提供了丰富的代码示例,并总结了最佳实践建议,帮助开发者更好地理解和应用这些注解,需要的朋友可以参考下... 目录一、@Controller 与 @RestController 对比二、使用 @Data 与 不使用 @Dat

Mysql中深分页的五种常用方法整理

《Mysql中深分页的五种常用方法整理》在数据量非常大的情况下,深分页查询则变得很常见,这篇文章为大家整理了5个常用的方法,文中的示例代码讲解详细,大家可以根据自己的需求进行选择... 目录方案一:延迟关联 (Deferred Join)方案二:有序唯一键分页 (Cursor-based Paginatio

Python实现常用文本内容提取

《Python实现常用文本内容提取》在日常工作和学习中,我们经常需要从PDF、Word文档中提取文本,本文将介绍如何使用Python编写一个文本内容提取工具,有需要的小伙伴可以参考下... 目录一、引言二、文本内容提取的原理三、文本内容提取的设计四、文本内容提取的实现五、完整代码示例一、引言在日常工作和学

Redis中高并发读写性能的深度解析与优化

《Redis中高并发读写性能的深度解析与优化》Redis作为一款高性能的内存数据库,广泛应用于缓存、消息队列、实时统计等场景,本文将深入探讨Redis的读写并发能力,感兴趣的小伙伴可以了解下... 目录引言一、Redis 并发能力概述1.1 Redis 的读写性能1.2 影响 Redis 并发能力的因素二、

Redis中的常用的五种数据类型详解

《Redis中的常用的五种数据类型详解》:本文主要介绍Redis中的常用的五种数据类型详解,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录Redis常用的五种数据类型一、字符串(String)简介常用命令应用场景二、哈希(Hash)简介常用命令应用场景三、列表(L

最新Spring Security实战教程之表单登录定制到处理逻辑的深度改造(最新推荐)

《最新SpringSecurity实战教程之表单登录定制到处理逻辑的深度改造(最新推荐)》本章节介绍了如何通过SpringSecurity实现从配置自定义登录页面、表单登录处理逻辑的配置,并简单模拟... 目录前言改造准备开始登录页改造自定义用户名密码登陆成功失败跳转问题自定义登出前后端分离适配方案结语前言

python中time模块的常用方法及应用详解

《python中time模块的常用方法及应用详解》在Python开发中,时间处理是绕不开的刚需场景,从性能计时到定时任务,从日志记录到数据同步,时间模块始终是开发者最得力的工具之一,本文将通过真实案例... 目录一、时间基石:time.time()典型场景:程序性能分析进阶技巧:结合上下文管理器实现自动计时