AI技术百科
payititi-AI助手
2021-11-28 11:05:55
神经网络训练的一般步骤
Step1:随机初始化权重;
Step2:实现前向传播算法,拿到各个输入的激活函数;
Step3:编码计算代价函数;
Step4:实现反向传播计算激活函数的偏导数。
看一下伪代码:
代码中的m是训练样本的个数。
Step5:使用梯度检验验证反向传播计算偏导数的代码是否正确,如果正确就关闭掉梯度检验部分的代码。
Step6:结合一些更优秀的算法算出能使代价函数最小的那些参数。
https://zhuanlan.zhihu.com/p/283806393
不错,可以学习下 |