结论模型复杂度↑Bias↓Variance↓ 例子$y_i=f(x_i)+\epsilon_i,E(\epsilon_i)=0,Var(\epsilon_i)=\sigma^2$ 使用knn做预测，在点$x_0$处的Excepted prediction error： ...
分类：
其他好文 时间：
2015-08-14 01:00:23
阅读次数：
126
关于 PCA 算法的讲解文章不胜枚举，这里主要谈一谈 基于 Python 中 sklearn 模块的 PCA 算法实现。Explained Variance 累计贡献率 又名 累计方差贡献率 不要简单理解为 解释方差，它是 PCA 降维维度的重要指标，一般选取累计贡献率在90%左右的维度作为PCA 降维的参考维度。在识别算法的实现过程中，当我们求得某一数据库各类别特征参考维度时，取最大维度作为每一...
分类：
编程语言 时间：
2015-08-11 18:42:38
阅读次数：
497
总结斯坦福2015李飞飞教授以及Andrej Karpathy教授的上课的slides中关于CNN的一些内容一：神经网络实验的基本策略：1.对输入数据进行预处理：
2.网络结构和数据集设置：（1）-随机初始化weights为一些比较小的数（fan-in，fan-out），bias设置为0（2）-利用好cv集，可以在少量epoch的结果下选择最好的params，然后进行更多的epoch3.分析实验结...
分类：
其他好文 时间：
2015-08-09 20:44:59
阅读次数：
222
王家林亲授《DT大数据梦工厂》大数据实战视频 Scala 深入浅出实战经典（1-64讲）完整视频、PPT、代码下载：百度云盘：http://pan.baidu.com/s/1c0noOt6 腾讯微云：http://url.cn/TnGbdC 360云盘：http://yunpan.cn/cQ4c2U...
分类：
其他好文 时间：
2015-08-07 00:03:00
阅读次数：
151
参考：https://codesachin.wordpress.com/2015/08/05/on-the-biasvariance-tradeoff-in-machine-learning/ 之前一直没搞明白什么是bias，什么是variance，现在看看这篇博文。 当你的模型太简单...
分类：
系统相关 时间：
2015-08-06 09:24:59
阅读次数：
371
王家林亲授《DT大数据梦工厂》大数据实战视频 Scala 深入浅出实战经典（1-64讲）完整视频、PPT、代码下载：百度云盘：http://pan.baidu.com/s/1c0noOt6 腾讯微云：http://url.cn/TnGbdC 360云盘：http://yunpan.cn/cQ4c2U...
分类：
其他好文 时间：
2015-08-06 00:15:00
阅读次数：
179
参考：http://scikit-learn.org/stable/modules/learning_curve.html
estimator's generalization error can be decomposed in terms of
bias, variance and noise. The bias of
an estimator is its avera...
分类：
其他好文 时间：
2015-07-30 11:33:18
阅读次数：
157
所谓自我服务偏好（self-serving bias）是指对自己、自己的行为以及他人的行为以一种有利于自我的方式所进行的判断或解释。从查理·芒格口中所说，这算是一种潜意识的极端的意识形态，我们应该尽量避免。为了避免，必须对此意识的存在和自身有足够的了解。 生活当中，我们会不知不觉地踩入“雷...
分类：
其他好文 时间：
2015-07-28 09:07:34
阅读次数：
245
引入我们回顾一下之前学习的两个算法，Bagging算法中，通过bootstrapping得到不一样的数据，通过这些数据送到一个基本算法之后，得到不同的g，最后对这些g取平均得到G；决策树算法中，通过递归方式建立子树，最终得到一棵完整的树。
这两种算法都有其鲜明的特点，决策树对于不同的数据相对会敏感一些，即其算法的variance很大，而Bagging的特点是通过投票和平均的方式来降低varianc...
分类：
编程语言 时间：
2015-07-26 12:39:46
阅读次数：
1131
源码：https://github.com/cheesezhe/Coursera-Machine-Learning-Exercise/tree/master/ex5Introduction：In this exercise, you will implement regularized linear...
分类：
系统相关 时间：
2015-07-24 15:40:53
阅读次数：
468
