merged专题
C语言常见问题(4)：Collapsible if statements should be merged
多级if可以合成一个if来完成的，尽量合在一起。Collapsible if statements should be merged： 应合并可折叠的if语句
Improving Deep Transformer with Depth-Scaled Initialization and Merged Attention阅读笔记
1 Abstract 最近在NLP领域，普遍都通过增大神经网络的深度来增强模型的性能和模型容量，然而简单的堆叠神经网络例如在Transformer模型中，会使模型变得难以训练，收敛性会变差并且还会使计算复杂度增高。 在本文中，作者认为深度模型难以收敛主要是因为梯度消失现象，而这一现象在Transformer中主要是由于残差链接和层正则化之间的相互影响。 在本文中，作者提出了两个方法来解决上述问题