参数估计 在分析模型参数（系数）的时候，如果发现AR(1)和AR(2)，其中第二个参数非常小，接近0，比如0.0XXX那么就要维持AR(1)的模型，因为对于小系数可以忽略不计。 ...
分类：
其他好文 时间：
2019-01-01 18:56:48
阅读次数：
146
概率论与数理统计 产生随机数 + binornd + poissrnd + exprnd + unidrnd + normrnd 概率密度函数(pdf) + binopdf + poisspdf + geopdf + unidpdf + normpdf + exppdf + chi2pdf: 卡方分 ...
分类：
其他好文 时间：
2018-12-24 22:01:47
阅读次数：
137
最大似然估计（Maximum likelihood estimation, 简称MLE）和最大后验概率估计（Maximum a posteriori estimation, 简称MAP）是很常用的两种参数估计方法，如果不理解这两种方法的思路，很容易弄混它们。下文将详细说明MLE和MAP的思路与区别。 ...
分类：
其他好文 时间：
2018-12-16 11:10:07
阅读次数：
114
1. 前言 概率模型有时既含有观测变量(observable variable)，又含有隐变量或潜在变量（latent variable），如果仅有观测变量，那么给定数据就能用极大似然估计或贝叶斯估计来估计model参数；但是当模型含有隐变量时，需要一种含有隐变量的概率模型参数估计的极大似然方法估计 ...
分类：
编程语言 时间：
2018-12-15 17:14:12
阅读次数：
244
由k个高斯模型加权组成，α是各高斯分布的权重，Θ是参数。对GMM模型的参数估计，就要用EM算法。更一般的讲，EM算法适用于带有隐变量的概率模型的估计，即不同的高斯分布所对应的类别变量。 为何不能使用极大似然估计，如果直接使用极大似然估计，没有考虑数据中的隐变量，很明显是不合适的。 那我们将隐变量考虑 ...
分类：
编程语言 时间：
2018-12-10 11:45:11
阅读次数：
234
拒绝推断（Reject Inference）是金融领域信用评分中的一个术语。对于要向银行借钱的人，我们需要考虑他们赖账的可能性。这样就需要根据他们的各种行为信息和人口统计学特征作为输入，来建立一个信用评分模型，这个建模过程与机器学习中训练一个模型类似。机器学习算法能够成功应用的一个条件是训练样本和测 ...
分类：
其他好文 时间：
2018-12-07 21:04:00
阅读次数：
243
在统计学中对变量进行线行回归分析，采用最小二乘法进行参数估计,在数据分析中通常会通过评估参数来评估我们得出的模型对结果的拟合度，通常会用到的参数有： 最小二乘法：我们将预测值与实际值之间的差值进行求平方和，这个和我们叫离差平方和，使离差平方和最小的方法叫“最小二乘法” 1、SSE(误差平方和)：th ...
分类：
其他好文 时间：
2018-12-05 12:40:14
阅读次数：
530
一、线性方程 Θ1，Θ2，。。。为参数，Θ0为偏置，x1,x2,...xn为特征 若在二维平面中，一个特征，找出一条最合适的直线去拟合我们的数据 所在三维平面中，两个特征，找出一个最合适的平面去拟合我们的数据。 二、误差 真实值和预测值之间肯定存在差异 对每个样本来说： （1） 误差ε符合：独立，同 ...
分类：
其他好文 时间：
2018-11-28 19:41:45
阅读次数：
128
众所周知，极大似然估计是一种应用很广泛的参数估计方法。例如我手头有一些东北人的身高的数据，又知道身高的概率模型是高斯分布，那么利用极大化似然函数的方法可以估计出高斯分布的两个参数，均值和方差。这个方法基本上所有概率课本上都会讲，我这就不多说了，不清楚的请百度。 然而现在我面临的是这种情况，我手上的数 ...
分类：
编程语言 时间：
2018-11-24 18:01:30
阅读次数：
173
优点 1. FM模型可以在非常稀疏的数据中进行合理的参数估计，而SVM做不到这点 2. 在FM模型的复杂度是线性的，优化效果很好，而且不需要像SVM一样依赖于支持向量。 3. FM是一个通用模型，它可以用于任何特征为实值的情况。而其他的因式分解模型只能用于一些输入数据比较固定的情况。 与LR联系与区 ...
分类：
系统相关 时间：
2018-11-15 12:02:34
阅读次数：
204
