http://blog.csdn.net/baimafujinji/article/details/51374202 贝叶斯定理：一个例子 其实我们在之前介绍朴素贝叶斯分类器时就介绍过它，如果你有点忘了，这里就通过一个例子来帮你回忆一下。 假设有一所学校，学生中60%是男生和40%是女生。女生穿裤子 ...
分类：
其他好文 时间：
2017-10-08 13:37:41
阅读次数：
214
作为一名机器学习中的小白，参数估计方法的学习必不可少，本着边学习边记录的原则，并参考一些其他博客或资源，作为打开我开始机器学习的第一扇门。 先说说统计学中的两大派别：频率派和贝叶斯学派。 频率派认为：参数是客观存在的，不会改变，虽然未知，但却是固定值。——似然函数 贝叶斯学派认为：参数是随机值，虽没 ...
分类：
编程语言 时间：
2017-09-25 13:10:24
阅读次数：
229
1.资产收益率 1+Rt = Pt or Pt =Pt?1(1+Rt) Pt?1 2.收益率的分布性质 2.1统计分布及矩 2.2收益率的分布 2.3多元收益率 2.4收益率的似然函数 2.5收益率的经验分布 3.其他过程 ...
分类：
其他好文 时间：
2017-09-20 01:02:19
阅读次数：
202
a. 一元高斯分布 b. 多元高斯分布 c. 似然函数 d. 独立同分布(i.i.d —> independent and identically distributed) 给定一个样本集合，其中样本都取自于同一个分布，且彼此之间相互独立，称之为独立同分布；其特性就是这些样本的联合概率，为它们各自的 ...
分类：
其他好文 时间：
2017-09-18 10:46:27
阅读次数：
315
1、最大似然 多数情况下我们是根据已知条件来推算结果，而最大似然估计是已经知道了结果，然后寻求使该结果出现的可能性最大的条件，以此作为估计值 求最大似然函数估计值的步骤： 2、机器学习算法的学习过程 这个优化函数存在解析解。例如我们求最值一般是对代价函数求导，导数为0的点一般就是最值，如果代价函数能 ...
分类：
其他好文 时间：
2017-08-23 20:44:28
阅读次数：
138
区别： 几种朴素贝叶斯分类器的区别在于对于分布的假设，即假设满足的形式。 一、高斯NB 导入 假设特征的似然函数满足， 和 采用“最大似然估计” 二、Multinomial NB 导入 特征是离散值，通常用样本的概率去估计 为避免有的特征值缺省，一般对样本的概率做Laplace平滑：（a=1时） 三 ...
分类：
其他好文 时间：
2017-08-22 00:19:05
阅读次数：
731
AIC 此处模型选择我们只考虑模型参数数量，不涉及模型结构的选择。 很多参数估计问题均采用似然函数作为目标函数，当训练数据足够多时，可以不断提高模型精度，但是以提高模型复杂度为代价的，同时带来一个机器学习中非常普遍的问题——过拟合。所以，模型选择问题在模型复杂度与模型对数据集描述能力（即似然函数）之 ...
分类：
其他好文 时间：
2017-07-30 13:58:26
阅读次数：
603
对所有类型的CRF模型，包括最大熵模型，都是采用极大似然估计的方法来进行参数估计，也就是说在训练数据集$\mathcal T$上进行对数似然函数$\mathcal L$的极大化。根据上一篇《条件随机场（三）》，我们知道线性链CRF的模型为 \begin{equation} p_{\vec {\lam ...
分类：
其他好文 时间：
2017-07-01 11:00:52
阅读次数：
214
EM的算法流程： 初始化分布参数θ； 重复以下步骤直到收敛： E步骤：根据参数初始值或上一次迭代的模型参数来计算出隐性变量的后验概率，其实就是隐性变量的期望。作为隐藏变量的现估计值： M步骤：将似然函数最大化以获得新的参数值： 这个不断的迭代，就可以得到使似然函数L(θ)最大化的参数θ了。那就得回答 ...
分类：
编程语言 时间：
2017-06-19 23:23:23
阅读次数：
320
概率论 举例说明 先验概率：一个病人 得了癌症的概率 后验概率：一个病人 拍了片子，显示某个部位不正常时，得癌症的概率 似然函数 ： 一个病人，得了癌症，拍片子显示不正常的概率 标准化常量：拍片子不正常的概率 贝叶斯公式 曲线拟合： 期中D表示 观测到的数据。 表示 在不同的w值下，这样的数据出现的 ...
分类：
其他好文 时间：
2017-04-10 21:19:58
阅读次数：
162
