Step1：随机初始化权重；

Step2：实现前向传播算法，拿到各个输入的激活函数；

Step3：编码计算代价函数；

Step4：实现反向传播计算激活函数的偏导数。

看一下伪代码：

代码中的m是训练样本的个数。

Step5：使用梯度检验验证反向传播计算偏导数的代码是否正确，如果正确就关闭掉梯度检验部分的代码。

Step6：结合一些更优秀的算法算出能使代价函数最小的那些参数。

https://zhuanlan.zhihu.com/p/283806393

不错，可以学习下