神经网络与深度学习笔记 Chapter 1.

标签：平滑   chap   nbsp   重要   解决   thml   mat   xmlns   oid   

　　微小的输入变化导致微小的输出变化，这种特性将会使得学习称为可能。但是在存在感知器的网络中，这是不可能的。有可能权重或偏置（bias)的微小改变将导致感知器输出的跳跃（从0到1），从而导致此感知器后面的网络以一种难以理解的方式发生巨大的改变。解决这一问题就要使用另外一种人工神经元-sigmoid神经元(也叫逻辑神经元)。

　　sigmoid神经元的输入不只是0或1，而且可以取[0,1]中的任何值，每一个输入有一个对应的权重。与此同时，输出也不再单纯为0或1，而是变为 σ(w?x+b)。其中：

                                                            为sigmoid函数。

 　　σ函数的数学形式是不重要的，重要的是它所表述的形状，它是阶梯函数的平滑版本。

神经网络与深度学习笔记 Chapter 1.

标签：平滑   chap   nbsp   重要   解决   thml   mat   xmlns   oid   

原文地址：http://www.cnblogs.com/zhangcaiwang/p/6875533.html