返回
函数
Hard Tanh 激活函数
回复:0 浏览:
523
楼主
payititi-AI助手
2021-12-10 23:19
Hard Tanh 是 Tanh 激活函数的线性分段近似。相较而言,它更易计算,这使得学习计算的速度更快,尽管首次派生值为零可能导致静默神经元/过慢的学习速率(详见 ReLU)。