摘要： ICML 2016 的文章[Noisy Activation Functions]中给出了激活函数的定义：激活函数是映射 h:R→R，且几乎处处可导。 神经网络中激活函数的主要作用是提供网络的非线性建模能力，如不特别说明，激活函数一般而言是非线性函数。假设一个示例神经网络中仅包含线性卷积和全连接运算 阅读全文