BP(back propagation)误差逆传播神经网络
马克-to-win @ 马克java社区:防盗版实名手机尾号:73203。BP神经网络是一种按误差反向传播的神经网络,它的基本思想还是梯度下降法,中间隐含层的误差和最后一层的误差存在一定的数学关系,(可以计算出来),就像误差被反向传回来了,所以顾名思义BP。马克-to-win @ 马克java社区:想想生活中有句话叫做开始差之毫厘,后来失之千里是什么意思?就有点误差传递的感觉。关键他们之间的数学关系是什么?我们得能求出来。
首先前向的信号计算和过去还是一样。
从以上公式看,w和b都是变量,而w求偏导时,结果是i1,i2,out h1,out h2,而对于b1和b2求偏导时,结果就是1和1。其他的都是一样的。
输出单元层的训练求解规则:
(购买完整教程)
从以上总结最重要的规律: