第一种形式：y=0/1 第二种形式：y=+1/-1 第一种形式的损失函数可由极大似然估计推出: 第二种形式的损失函数： ， 参考：https://en.wikipedia.org/wiki/Loss_functions_for_classification ...
分类：
其他好文 时间：
2018-10-08 00:50:01
阅读次数：
893
一、线性回归 在统计学中，线性回归(Linear Regression)是利用称为线性回归方程的最小平方函数对一个或多个自变量和因变量之间关系进行建模的一种回归分析。这种函数是一个或多个称为回归系数的模型参数的线性组合。 回归分析中，只包括一个自变量和一个因变量，且二者的关系可用一条直线近似表示，这 ...
分类：
其他好文 时间：
2018-09-15 01:19:36
阅读次数：
1170
先验：从原因到结果；后验：从结果到原因。 先验概率：根据以往经验和分析得到的概率.。 后验概率：事情已经发生，要求这件事情发生的原因是由某个因素引起的可能性的大小。 举例理解（1）： 先验——根据若干年的统计（经验）或者气候（常识），某地方下雨的概率； 似然——下雨（果）的时候有乌云（因/证据/观察 ...
分类：
其他好文 时间：
2018-09-13 14:08:17
阅读次数：
148
Map （最大后验） 在贝叶斯统计学中，最大后验（Maximum A Posteriori，MAP）估计可以利用经验数据获得对未观测量的点态估计。它与Fisher的最大似然估计（Maximum Likelihood，ML）方法相近，不同的是它扩充了优化的目标函数，其中融合了预估计量的先验分布信息，所 ...
分类：
其他好文 时间：
2018-09-04 13:40:31
阅读次数：
307
贝叶斯决策 首先来看贝叶斯分类，我们都知道经典的贝叶斯公式： 其中：p(w)：为先验概率，表示每种类别分布的概率，P（X|W）：类条件概率，表示在某种类别前提下，某事发生的概率；而P（W|X）为后验概率，表示某事发生了，并且它属于某一类别的概率，有了这个后验概率，我们就可以对样本进行分类。后验概率越 ...
分类：
其他好文 时间：
2018-08-30 00:13:00
阅读次数：
165
一、EM算法简介 在 "EM算法之一 问题引出" 中我们介绍了硬币的问题，给出了模型的目标函数，提到了这种含隐变量的极大似然估计要用EM算法解决，继而罗列了EM算法的简单过程，当然最后看到EM算法时内心是懵圈的，我们也简要的分析了一下，那回过头来，重新看下EM算法的简单介绍： 输入：观测变量数据Y， ...
分类：
编程语言 时间：
2018-08-28 00:51:30
阅读次数：
185
Qt提供了巧妙的属性系统，它与某些编译器支持的属性系统相似。然而，作为平台和编译器无关的库，Qt不能够依赖于那些非标准的编译器特性，比如__property 或者 [property]。Qt的解决方案能够被任何Qt支持的平台下的标准C++编译器支持。它依赖于元对象系统（Meta_Object Syt ...
分类：
其他好文 时间：
2018-08-27 14:10:39
阅读次数：
176
很多参数估计问题均采用似然函数作为目标函数，当训练数据足够多时，可以不断提高模型精度，但是以提高模型复杂度为代价的，同时带来一个机器学习中非常普遍的问题——过拟合。所以，模型选择问题在模型复杂度与模型对数据集描述能力（即似然函数）之间寻求最佳平衡。 人们提出许多信息准则，通过加入模型复杂度的惩罚项来 ...
分类：
其他好文 时间：
2018-08-25 14:30:18
阅读次数：
158
参考： 从最大似然到EM算法浅解 （EM算法）The EM Algorithm EM算法的九层境界：Hinton和Jordan理解的EM算法 在EM算法的证明中，其实比较好理解，总结如下： 从最大似然估计出发 > 将隐变量暴露出来，写出累加/积分的 形式 > 引入Q(z),表示隐变量z的概率密度函数 ...
分类：
编程语言 时间：
2018-08-20 00:28:07
阅读次数：
8398
