本文来自以下内容：

1. Hinton coursera《neural network for machine learning》课程主页
2. Andrew Ng Coursera 机器学习
3. 学堂在线 袁博 数据挖掘：理论与算法

目前遇到的问题

我们刚刚学习了 神经网络前向传播,

关键问题

这三个问题中，你觉得关键问题是啥？ 不知道的话， 逐个分析一下。

继续分析

初始化权重一般是全部置0。

第二项 输出结果不对怎么办？ 这个很明显就是要去更新 权重参数向量！ 所以 这两个选项是同一个问题。

最后一项

方法对吗？

上面的空不知道读者会填成什么。

以前在逻辑回归使用的 梯度下降 或 牛顿迭代法 是否能直接拿来用呢？

哪里不行了？

还记得 梯度下降法 或 牛顿迭代法 的过程吗？

详细分析

来看看式子， 逻辑回归的迭代式： $$w = w + \alpha \nabla_w l(w)$$ 其中： $$\nabla l(w) = y^T (y - h(x))\\ l(w)= y^T log(h(Xw)) + (1-y^T)log(1-h(Xw))$$

而牛顿迭代法求解一次导`J'(\theta) = 0`时得到的极值， $$w_{n+1} = w_n - \frac{J'(w_n)}{J''(w_n)}$$

`J(w) = l(w) 或 =(h(x) - y)^2`

可以看到， 式子里都有 y ， 也就是数据的label，

那怎么办？

总不能只管调整最后输出层的 权重向量吧？梯度下降法或牛顿迭代法应该只能调整传给输出层的权重向量~~~

反正隐藏层没有label标签可以比较，不能直接用梯度下降法。

试试又不会掉块肉

创新不是无根之萍，要善于从已有方法、 相似领域方法中进行微创新，多借鉴，多模仿，多改进，多尝试。即使爱因斯坦提出相对论也是基于前人很多工作，特别是数学上的~~~

我们来借鉴、分析下梯度下降法， 因为神经网络使用的是 sigmoid神经元，我们来看看对应的数学式。

模型： $$\mathcal{l}(w) = y^T log(h(w*x)) + (1-y^T)log(1-h(w*x)) \\ $$

梯度下降法： $$w = w + \alpha \nabla_w l(w) \\ \nabla l(w) = y^T (y - h(w*x))$$

差什么？

有梯度（导数）， 有系数，要对权重向量（矩阵）更新，那差什么？

首先，`\nabla l(w) = y^T (y - h(w*x))` 里有y-h(w*x)， 所以，我们得找新的梯度、导数。

否定后要提方案

OK， 首先肯定不能在隐藏层用损失函数了，那需要y标签数据，而隐藏层应该输出什么，没人知道。

那我们要先在已使用的函数里找一找有没有可用的函数、方案。 毕竟没有线索去创造一个新函数。

注： 很明显我是根据BP反向传播算法的结论来猜测、反推这些理由，希望和真正创造这方法时的思维比较相近。 但实际上是否一定要梯度、 真的没有线索来发现新方法函数吗？这倒不好说，读者如果发现了新的想法那绝对是意外之喜。

又一个显然，除了输出层的损失函数， 还有神经元的模型、函数， 本节使用的是sigmoid神经元，即sigmoid函数。

对比一下

假设第k层(k>=1)有m个神经元，下一层k+1层有n个神经元

乘号请用 * 。

所以呢

第k层有m个神经元，下一层k+1层有n个神经元，即有n个sigmoid函数， 第k+1层第j个神经元记为： $$a_j^{k+1}=g( \sum_{i=1}^m w_{i,n}^k * a_i^k)$$

k+1层的每个神经元都有m个输入向量（偏置单元bias unit先不管），所以n个sigmoid都可以对m个输入向量求偏导， 所以可以看到每条权重边都跟sigmoid有关系， 那我们就可以试用sigmoid函数来代替原先梯度下降法里的函数。

sigmoid求偏导部分暂略。

OK？

已求出 sigmoid的导数，

还要考虑系数

还记得梯度下降用梯度和 学习速率（系数）来更新权重向量吧？

系数有什么问题

我不知道是否可以使用常系数（有兴趣的读者可以一试），但一定不好。

以常为镜，可以非常

虽然不能直接使用常系数，但系数、学习速率背后的思想还是得借鉴一下，不能直接扔了吧？

如梯度下降法里所说

找呀找呀找系数

如图所示（暂时没有）：

梯度可以看作是概率， 学习速率或系数其实是 `\Delta x`，所以二者相乘 = `\Delta y`。意味着 x的变化率对y的影响。

我们已经找到了梯度， 但还差 `\Delta x`， 不同层不同神经元不同边有不同的`\Delta x`。

我跪了

扯不下去了， 赶紧结束这篇。`\Delta x` 可以理解成差异、 变化量等等，但终究是一个减法， `\Delta` 这符号一般就用来表示“差”。

目前， 唯一的已知的“差”值 就是 数据实际的标签label 和 前向传播输出的差， 实际值和预测值的差别 `y - a^L`， 就叫 误差。

所以要从输出层的这个`\Delta x`开始，往回一层层地更新权重矩阵。

接下来

视频和文字各有不好，视频不好改，要重录， 文字不好做动画——特别是我不会做动画~~~

从输出层怎么反向到上一层呢？输出层的神经元通过突触（边）影响到上一隐藏层的神经元， 所以有两个数据了。

1. 输出层L层神经元的误差 `y - a^L`
2. 上一层l层到输出层L层的边 的权重 `w^l`

那系数就是这两货的乘积了，那梯度、求导再结合进来， 先明显应该使用输出L层的g(x)求导——事实上从这里看不出来， 用l层的g(x)求导，然后除一下，可能更符合逻辑关系——前一层的变化通过导数、斜率影响下一层。为什么在下一段。

推广

接上面的，为什么不用l层神经元的函数，很简单，输入层到第一个隐藏层这里怎么办？ 输入层可没有这个函数~~~

如何推广到其他层？ 其他层没有输出，不知道具体误差， 所以要利用下一层的误差， 下一层的误差则是来自下下一层，直到输出层的误差。

所以， 下面给出总结：

反向传播算法步骤

0. 先计算输出层L层误差 `y - a^L`
1. 第l层l(w)使用sigmoid神经元的sigmoid函数 g(x)。
2. 系数`\alpha` 则是上一层的误差，反向乘以边的权重
3. 第k层的误差 上面第2步的系数 乘上第1步函数的导数。
4. 权重向量更新是 输出`a_j^l * \delta_i^{l+1}` -- 有点乱

如图：

总结

在前一篇 神经网络前向传播 之后， 我们研究了如何更新神经网络里的权重（矩阵）。

借鉴 梯度下降法 的思想和数学式$ w = w + \alpha \nabla_w l(w) $进行改进， 进而得到 反向传播算法。

实验品，

恭喜

不好意思， 本篇因为有点复杂， 捋顺整个逻辑比较难， 拖的时间太长， 又心情不好， 写不下去了~~中间关键步骤敷衍了事，草草结尾。

神经网络反向传播算法就是以上内容。 浅层神经网络一般讲完反向传播算法 就结束。 所以， 有兴趣的读者可以准备看 深度学习 了。

知维图-深度学习目录