convoluation专题

Empirical Evaluation of Rectified Activation in Convoluation Network 激活函数的讨论

Empirical Evaluation of Rectified Activation in Convoluation Network 对神经网络激活函数的经验评估 Standard rectified linear unit    relu  标准整流线单元   这是最常用的激活函数 Leaky rectified linear unit      lrelu Parametric r