问题是，已知样本结果D，求最大概率的参数$\theta $ 最大后验概率(MAP)： 求使$P(\theta |D)$最大的$\theta $； $P(\theta |D)=\frac{P(D|\theta )P(\theta )}{P(D)}$ 其中，P(D)为已知量，常量，因为样本结果已经定了; ...
分类：
其他好文 时间：
2019-09-01 14:34:11
阅读次数：
85
1、似然函数 概率和似然的区别：概率是已知参数的条件下预测未知事情发生的概率，而似然性是已知事情发生的前提下估计模型的参数。我们通常都是将似然函数取最大值时的参数作为模型的参数。 那么为何要取似然函数取最大值的参数作为模型的参数？我们基于这样的假设：对于已经发生的事情，在同样条件下再次发生的概率就会 ...
分类：
其他好文 时间：
2019-08-29 20:05:33
阅读次数：
101
EM算法理解 来源：[知乎：Evan]（https://www.zhihu.com/question/27976634/answer/252238739） 1. EM算法产生的原因 EM算法是为了解决《最大似然估计》中更复杂的情形而存在的。 这里“极大似然估计中更复杂的情形”是什么情形呢？ 我们知道 ...
分类：
编程语言 时间：
2019-08-22 01:01:44
阅读次数：
102
逻辑斯蒂回归主要用于二分类，推广到多分类的话是类似于softmax分类。求 上述问题可以通过最大化似然函数求解。 上述问题可以采用最小化logloss进行求解。 一般地，我们还需要给目标函数加上正则项，参数w加上l1或者l2范数。 LR适合大规模数据，数据量太小的话可能会欠拟合（考虑到数据通常比较稀 ...
分类：
其他好文 时间：
2019-08-18 17:52:13
阅读次数：
157
生存分析 三大块内容： 1，描述性的 生存率、中位生存期、生存曲线等，常用Kaplan-meier法 2，比较分析 两组的生存曲线是否有差别，log-rank检验（单个因素） 3，cox比例风险回归 类似logistic回归，多个变量对Y的影响，得到一个概率值，只不过加了时间 多花点时间聊聊cox的 ...
分类：
其他好文 时间：
2019-08-10 19:05:39
阅读次数：
134
文章目录1. 什么是EM算法1.1 似然函数1.3 极大似然函数的求解步骤1.4 EM算法2. 采用 EM 算法求解的模型有哪些？3.代码实现4. 参考文献 1. 什么是EM算法 最大期望算法（Expectation-maximization algorithm，又译为期望最大化算法），是在概率模.... ...
分类：
编程语言 时间：
2019-07-21 13:17:26
阅读次数：
138
【1】极大似然估计详解，写的太好了！https://blog.csdn.net/qq_39355550/article/details/81809467 ...
分类：
其他好文 时间：
2019-07-19 20:50:59
阅读次数：
81
贝叶斯决策 贝叶斯公式（后验概率）： p(w)：每种类别分布的概率——先验概率； p(x|w)：某类别下x事件发生的概率——条件概率； p(w|x)：x事件已经发生，属于某类的概率——后验概率； 后验概率越大，说明x事件属于这个类的概率越大，就越有理由把事件x归到这个类下 后验概率越大，说明x事件属 ...
分类：
其他好文 时间：
2019-07-01 15:53:41
阅读次数：
127
在《机器学习 逻辑回归（一）（Machine Learning Logistic Regression I）》一文中，我们讨论了如何用逻辑回归解决二分类问题以及逻辑回归算法的本质。现在来看一下多分类的情况。 现实中相对于二分类问题，我们更常遇到的是多分类问题。多分类问题如何求解呢？有两种方式。一种是 ...
分类：
系统相关 时间：
2019-06-23 20:48:12
阅读次数：
170
概率函数 vs 似然函数 : p(x|θ) (概率函数是θ，已知，求x的概率。似然函数是x已知，求θ) 分布是p(x|θ)的总体样本中抽取到这100个样本的概率，也就是样本集X中各个样本的联合概率 最大似然估计为： 为了方便计算，对联合概率取对数 求最大似然函数估计值的一般步骤： （1）写出似然函数 ...
分类：
其他好文 时间：
2019-06-20 10:56:00
阅读次数：
92
