统计学习方法（一）（李航）

标签：决策   上界   选择   问题   统计学习   最小化   函数   学习   习题   

统计学习方法概论：

（一），统计学习

1，统计学习的特点

2，统计学习的对象

3，统计学习的目的

4，统计学习的方法

（二），监督学习重要概念

1，输入空间，特征向量空间，输出空间

（三），统计学习三要素

1，模型

　　决策函数模型：

　　条件概率模型：

2，策略

2.1 损失函数：

2.2 经验风险最小化和结构最小化

　　如贝叶斯估计的最大后验概率就是一种结构风险最小化的一个例子

3，算法

（四）模型评估选择

1，训练误差和测试误差

2，过拟合

　　　　过拟合和欠拟合产生的原因及解决方式：

4，正则化：L1和L2范式

5，交叉验证：训练集，验证集，测试集

6，泛化误差，泛化误差上界

7，生成模型和判别模型

8，分类模型

9，标注问题

10，回归模型

（五），课后习题

统计学习方法（一）（李航）

标签：决策   上界   选择   问题   统计学习   最小化   函数   学习   习题   

原文地址：http://www.cnblogs.com/ksWorld/p/7092229.html