1. 概率密度函数的参数估计 前文讲到了利用贝叶斯决策理论构建贝叶斯分类器，初学者难免会有疑问，既然已经可以通过构建贝叶斯分类器的方法处理分类问题，那为什么还要学习本章节内容？ 事实上，贝叶斯分类器的缺可以通过计算先验概率与类条件概率来设计最优分类器。但是对于大多数实际问题，我们往往无法知道这两个概 ...
分类：
其他好文 时间：
2018-11-08 00:21:39
阅读次数：
185
统计量 统计量 通过从总体中抽取样本构造适当的统计量，由样本性质推断总体性质的样本函数。 常用的统计量 1）样本均值 2）样本方差、标准差 3）样本的变异系数——C=根号（D(x)）/E(x) 4）k阶距 5）中心距 6）样本偏度 7）样本峰度 注：偏度、峰度在质量控制和可靠性研究应用较多。 次序统 ...
分类：
其他好文 时间：
2018-10-05 12:25:58
阅读次数：
195
在数理统计中，我们见过的总体X一般都是未知的。 即便根据以往的经验和数据，知道X服从那类分布，其数字特征（如数学期望、方差、矩）也是未知的. 这些未知的数字特征以及含在总体X中的未知数称为未知参数（简称参数）。 为了估计未知函数的真值或者所在区间，就要从总体X中抽取样本，然后用样本构造某种统计量，来 ...
分类：
其他好文 时间：
2018-10-04 11:22:17
阅读次数：
330
本文主要介绍了逻辑斯谛回归模型的基本原理，以及其参数估计的推导过程，并将二项逻辑斯谛模型推广到了多项逻辑斯谛模型上。 ...
分类：
其他好文 时间：
2018-09-25 20:44:14
阅读次数：
190
1、IRT模型概述 IRT（item response theory 项目反映理论）模型。IRT模型用来描述被试者能力和项目特性之间的关系。在现实生活中，由于被试者的能力不能通过可观测的数据进行描述，所以IRT模型用一个潜变量 $ \theta $ 来表示，并考虑与项目相关的一组参数来分析正确回答测 ...
分类：
编程语言 时间：
2018-09-11 21:22:21
阅读次数：
1606
线性回归是一种回归分析技术，回归分析本质上就是一个函数估计的问题（函数估计包括参数估计和非参数估计），就是找出因变量和自变量之间的因果关系。回归分析的因变量是应该是连续变量，若因变量为离散变量，则问题转化为分类问题，回归分析是一个有监督学习问题。 线性其实就是一系列一次特征的线性组合，在二维空间中是 ...
分类：
其他好文 时间：
2018-08-26 15:35:44
阅读次数：
188
很多参数估计问题均采用似然函数作为目标函数，当训练数据足够多时，可以不断提高模型精度，但是以提高模型复杂度为代价的，同时带来一个机器学习中非常普遍的问题——过拟合。所以，模型选择问题在模型复杂度与模型对数据集描述能力（即似然函数）之间寻求最佳平衡。 人们提出许多信息准则，通过加入模型复杂度的惩罚项来 ...
分类：
其他好文 时间：
2018-08-25 14:30:18
阅读次数：
158
1、EM算法要解决的问题 如果使用基于最大似然估计的模型，模型中存在隐变量，就要用EM算法做参数估计。 EM算法解决这个的思路是使用启发式的迭代方法，既然我们无法直接求出模型分布参数，那么我们可以先猜想隐含数据（EM算法的E步），接着基于观察数据和猜测的隐含数据一起来极大化对数似然，求解我们的模型参 ...
分类：
编程语言 时间：
2018-08-09 23:14:09
阅读次数：
167
最大似然估计（Maximum likelihood estimation, 简称MLE）和最大后验概率估计（Maximum aposteriori estimation, 简称MAP）是很常用的两种参数估计方法。 1、最大似然估计（MLE） 在已知试验结果（即是样本）的情况下，用来估计满足这些样本分 ...
分类：
其他好文 时间：
2018-08-07 21:57:53
阅读次数：
3439
系统切换模型，尤其是马尔可夫切换（MS）模型，被认为是捕获时间序列非线性的有前景的方法。将MS模型的元素与完全自回归移动平均 - 广义自回归条件异方差（ARMA - GARCH）模型相结合，给参数估计器的计算带来了严重的困难。 我们制定了完整的MS- ARMA - GARCH模型及其贝叶斯估计。这有 ...
分类：
其他好文 时间：
2018-08-01 20:39:42
阅读次数：
161
