elu激活函数是什么？

elu和relu很相似。大于0的时候，是恒等函数；不过小于0的时候，就是一个指数函数-1的形式。elu就是exponential linear unit。

外国一个网站上看到的插图，描述的就是elu

蓝色是elu，红色是relu

对比relu，elu的好处就是让负输入值也能返回一些信息，而且elu能让整体的输出值的均值在0附近，更robust。