写在前面:本来这篇应该是上周四更新,但是上周四写了一篇深度学习的反向传播法的过程,就推迟更新了。本来想参考PRML来写,但是发现里面涉及到比较多的数学知识,写出来可能不好理解,我决定还是用最通俗的方法解释PCA,并举一个实例一步步计算,然后再进行数学推导,最后再介绍一些变种以及相应的程序。(数学推导 ...
分类:
其他好文 时间:
2016-07-06 11:44:34
阅读次数:
254
机器学习学习笔记 PRML Chapter 2.0 : Prerequisite 2 -Singular Value Decomposition (SVD) ...
分类:
其他好文 时间:
2016-07-06 01:53:45
阅读次数:
332
PRML Study Note - Chapter 1-1 : Introduction ...
分类:
其他好文 时间:
2016-06-21 06:31:36
阅读次数:
329
PRML Study Note - Chapter 1.2 : Probability Theory ...
分类:
其他好文 时间:
2016-06-21 06:29:18
阅读次数:
298
PRML Study Notes - Chapter 1.6 : Information Theory ...
分类:
其他好文 时间:
2016-06-21 06:28:44
阅读次数:
243
PRML Study Note - Chapter 1.5 : Decision Theory ...
分类:
其他好文 时间:
2016-06-21 06:27:50
阅读次数:
284
PRML Study Note - Chapter 1 Summary : MLE (Maximum-likelihood Estimate) and Bayesian Approach ...
分类:
移动开发 时间:
2016-06-21 06:27:19
阅读次数:
269
PRML Study Note - Chapter 1.3-1.4 : Model Selection & the Curse of Dimensionality ...
分类:
其他好文 时间:
2016-06-21 06:26:50
阅读次数:
226
学过一点统计的人都会知道最小二乘法,最简单的曲线拟合方式。最小二乘法是通过最小化误差平方和来求解模型参数ω\omega的,记为:
Min12∑i=1n{y(x,ω)?t}2 Min\frac{1}{2}\sum_{i=1}^{n}\{y(x,\omega)-t\}^{2}
但这一优化目标难免出现模型过拟合的情况,所以通常会在误差平方和之上在加上一项λωTω\lambda\omega^{T}\o...
分类:
其他好文 时间:
2016-05-13 04:19:46
阅读次数:
214
主要讲解了贝叶斯概率与统计派概率的不同。
概率论,决策论,信息论(probability theory, decision theory, and information theory)是以后用到的三个重要工具,本节主要介绍概率论,这里的介绍还是结合前面的多项式拟合的例子讲解。...
分类:
其他好文 时间:
2016-05-06 15:58:06
阅读次数:
285