专有名词 机器学习 (machine learning) 预测分析 (predictive analytics) 统计学习 (statistical learning) 监督学习 (supervised learning) 无监督学习 (unsupervised learning) 样本 (samp ...
分类：
编程语言 时间：
2020-05-30 21:59:46
阅读次数：
75
[TOC] 我有一点点机器学习的基础，这一章阅读起来还是比较轻松。 1 统计学习 1.1 背景 这里首先要介绍一下 贝叶斯派 和 频率派 。举个栗子：一个病毒检测试剂，如果受检者为阳性，误检率为1%，如果受检者为阴性，误检率为2%；若人群中某个人的检测结果为阳性，则此人携带病毒的概率是多少。概率派观 ...
分类：
其他好文 时间：
2020-05-23 10:03:51
阅读次数：
86
模型估计与模型选择 模型估计 当损失函数给定时，基于损失函数的模型的训练误差和模型的测试误差就成为了学习方法评估的标准。测试误误差反映了学习方法对未知的测试数据集的预测能力，又被称为泛化能力。 过拟合：一味的追求提高训练数据的预测能力，所选模型的复杂度则往往会比真模型更高，但会造成过拟合。为了防止过 ...
分类：
其他好文 时间：
2020-05-23 09:56:42
阅读次数：
46
链接：https://pan.baidu.com/s/178FaXInAAA7TrvLwoJnt_g 提取码：87vn 链接：https://pan.baidu.com/s/178FaXInAAA7TrvLwoJnt_g 提取码：87vn ...
分类：
其他好文 时间：
2020-05-10 23:03:25
阅读次数：
62
正则化与交叉验证用于模型选择 1 正则化 正则化是结构风险最小化策略的实现，是在经验风险上加一个正则化项(regularizer)或罚项(penalty iterm )。正则化项一般是模型复杂度的单调递增函数，模型越复杂，正则化值就越大。比如，正则化项可以是模型参数向量的范数。 正则化一般形式： 正 ...
分类：
其他好文 时间：
2020-05-03 20:31:49
阅读次数：
81
1 泛化误差 学习方法的泛化能力(generalization ability)是指由该方法学习到的模型对未知数据的预测能力，是学习方法本质重要的性质。 泛化误差反映了学习方法的泛化能力，如果一种方法学习的模型比另一种方法学习的模型具有更小的泛化误差，那么这种方法就更有效。事实上，泛化误差就是所学习 ...
分类：
其他好文 时间：
2020-05-03 20:06:49
阅读次数：
134
1.简介 统计学习方法都是由模型、策略和算法构成的 2.模型 在监督学习过程中，模型就是所要学习的条件概率分布或决策函数。 模型的假设空间包含所有可能的条件概率分布或决策函数。 2.1 决策函数模型 2.2 条件概率 决策函数表示的模型为非概率模型，由条件概率表示的模型为概率模型 3 学习策略 考虑 ...
分类：
其他好文 时间：
2020-04-30 21:22:12
阅读次数：
93
随机森林算法学习最近在做kaggle的时候，发现随机森林这个算法在分类问题上效果十分的好，大多数情况下效果远要比svm，log回归，knn等算法效果好。因此想琢磨琢磨这个算法的原理。 要学随机森林，首先先简单介绍一下集成学习方法和决策树算法。下文仅对该两种方法做简单介绍（具体学习推荐看统计学习方法的 ...
分类：
编程语言 时间：
2020-04-30 11:36:53
阅读次数：
113
1 简介 线性可分问题的支持向量机学习方法，对线性不可分训练数据是不适用的，因为这时上述方法中的不等式约束并不能都成立。 怎么才能将它扩展到线性不可分问题呢?这就需要修改硬间隔最大化，使其成为软间隔最大化。 2 模型 2.1 相关条件 2.2 模型 3 学习策略 4 算法 对偶形式 5 概念扩展 5 ...
分类：
其他好文 时间：
2020-04-29 14:58:07
阅读次数：
56
1 简介 支持向量机(support vector machines> SVM)是一种二类分类模型。它的基本模型是定义在特征空间上的间隔最大的线性分类器，间隔最大使它有别于感知机;支持 向量机还包括核技巧，这使它成为实质卜的非线性分类器。支持向量机的学习策略就是间隔最大化，可形式化为一个求解凸二次规 ...
分类：
其他好文 时间：
2020-04-29 12:49:37
阅读次数：
142
