本文主要是介绍【CNN】——涨点模块SE,CBAM,CA对比,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
code:https://github.com/chenjun2hao/dler.collection
涨点模块的对比
对比测试
- SE通道注意力
- CBAM通道注意+空间注意力
- Coordinate Attention,个人认为是一种通道注意力+x方向空间+y方向空间注意力机制。其思路很像Strip Pooling
1. 参数对比
这里采用同样的输入,同样的输入,输出通道,同样的中间过渡通道。统计三个模块的浮点数计算量与参数量。
Module | macs/flops | params |
---|---|---|
SE | 40993792.0 | 8192.0 |
CBAM | 56706560.0 | 8290.0 |
CA | 95923200.0 | 12848.0 |
2. 效果对比
来自:https://arxiv.org/pdf/2103.02907.pdf
这篇关于【CNN】——涨点模块SE,CBAM,CA对比的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!