版权所有为 David Sheehan 原blog地址为:Visualising Activation Functions in Neural Networks

Note: 注意:建议您在Chrome上查看以获得最佳体验。在Firefox和IE上,框中的等式可能无法呈现。


这种激活函数更具理论性而非实际性,模仿生物神经元的全有或全无特性。它对神经网络没有 用,因为它的导数是零(除了0,它是未定义的)。这意味着基于梯度的优化方法是不可行的。