《机器学习》

标签：

一、训练方式：

1.选取训练经验的类型

2.学习器可以在多大程度上控制训练样例序列

3.训练样例的分布能多好地表示实例分布

大多机器学习理论基于训练样例与测试样例分布一致这一前提。

二、目标函数：

 经常希望学习算法仅得到目标函数的某个近似，由于这个原因，学习目标函数的过程常被称为函数逼近。

希望选取非常有表征力的描述，而越有表征力的描述需要的训练数据就越多。

训练值估计法则：

基于后继估计的迭代估计训练可近乎完美地收敛到训练估计值。

权值调整：

常用方法是使训练值和预测值的值间误差平方和E最小。

调整线性函数的权使E最小，有方法LMS（least mean squares）最小均方法

LMS权值更新：

对训练样例<b,Vtrain(b)>

1.使用当前权计算V`(b)

2.对每个权值wi进行更新：

wi<----wi+n(Vtrain(b)-V`(b))xi;

这里n为比较小的常数，用于调整权值更新的幅度。

xi使得在训练过程中确实出现的特征才进行更新。

《机器学习》

标签：

原文地址：http://www.cnblogs.com/damocles/p/5011512.html