指数线性单元（Exponential Linear Unit，ELU）

指数线性单元（Exponential Linear Unit，ELU）也属于 ReLU 修正类激活函数的一员。和 PReLU 以及 RReLU 类似，为负值输入添加了一个非零输出。和其它修正类激活函数不同的是，它包括一个负指数项，从而防止静默神经

12-10 23:09

544浏览

0点赞

ELU (Exponential Linear Units) 函数

函数表达式：函数及其导数的图像如下图所示：ELU也是为解决ReLU存在的问题而提出，显然，ELU有ReLU的基本所有优点，以及：1、不会有DeadReLU问题2、输出的均值接近0，zero-centered它的一个小问题在于计算量稍大。类

12-10 23:01

1507浏览

1点赞

PReLU(Parametric Rectified Linear Unit), 顾名思义：带参数的ReLU。二者的定义和区别如下图：如果ai=0，那么PReLU退化为ReLU；如果ai是一个很小的固定值(如ai=0.01)，则PReLU退化为Leaky ReLU(LReLU)。有实验证明

12-10 22:57

1015浏览

0点赞

线性整流函数（Rectified Linear Unit, ReLU），又称修正线性单元，是一种人工神经网络中常用的激活函数（activation function），通常指代以斜坡函数及其变种为代表的非线性函数。

05-14 16:07

相关搜索

今日排行

本周排行

本月排行