2.感知机算法的原始形式

输入：

训练数据集 T={(x₁,y₁),(x₂,y₂),...,(x_n,y_n)}，其中x₁∈Rⁿ，y_i={+1,-1},i=1, 2, ..., n，学习率η(0 < η<= 1)

输出：

w, b；感知机模型 f(x) = sign(w·x + b)

过程:

1， 选取初值w, b

2， 在训练集中取数据(x_i,y_i)

 3， 若 y_i(w·x_i+ b) <= 0 即分类不正确，则：

       w= w + ηy_ix_i

         b= b + ηy_i

注：因为此时分类不对，所以y_i= -1

4， 转至步骤2，直到训练数据集中无误分类点

3.感知机算法的对偶形式

在原始形式中有公式：

      w= w + ηy_ix_i

        b= b + ηy_i

那么假设一共修改了n次，则w，b关于(x_i⁽¹⁾,x_i⁽²⁾)的增量分别为：

      a_iy_ix_i和 a_iy_i                    (a_i= n_iη)

 即： 

若η=1，则a_i就是第i个点由于误分类而进行更新的次数，即a_i = n_i。

a_i越大 => 实例点更新次数越多 =>越难正确分类，换句话说：这样的实例对学习结果影响更大！