在做分类问题时,有时候需要使用样本的概率密度函数来求其后验概率。但是很多情况下并不知道其概率密度函数的形式(即样本的分布未知),此时就需要对样本进行非参数估计,来求解其概率密度函数。 求解未知 ...
分类:
其他好文 时间:
2019-03-18 15:30:33
阅读次数:
284
线性回归是一种回归分析技术,回归分析本质上就是一个函数估计的问题(函数估计包括参数估计和非参数估计),就是找出因变量和自变量之间的因果关系。回归分析的因变量是应该是连续变量,若因变量为离散变量,则问题转化为分类问题,回归分析是一个有监督学习问题。 线性其实就是一系列一次特征的线性组合,在二维空间中是 ...
分类:
其他好文 时间:
2018-08-26 15:35:44
阅读次数:
188
http://blog.csdn.net/carson2005/article/details/7243425http://www.cnblogs.com/yyrdl/p/5059277.html 直线的光栅画法http://www.cnblogs.com/zichi/p/5059161.html ...
分类:
其他好文 时间:
2015-12-19 17:53:21
阅读次数:
118
基本想法:既不想像参数估计(最大似然,贝叶斯学习)那样需要假定特定的分布函数形式,又不想像非参数估计那样在最终生成的模型中带着所有的训练样本。 注意理解这个式子:p(j)是样本概率由第j个组分得到的概率,式(1)中也就是对联合分布求和得到了边缘分布。P(j)的取值需要满足概率函数的约束: 同理,条....
分类:
其他好文 时间:
2015-07-08 12:30:32
阅读次数:
197
最近几个月一直处于非常忙碌的状态,每天都像是无头苍蝇一样,东学学,西学学,虽然学了很多东西,但大部分都是浅尝辄止,不够深入。这次这个随笔,一半是为了宣泄一下自己的情绪,一半是为了为之后几个月的学习制定一下目标。统计学基础:将各种统计学方法总结下来。参数估计、非参数估计、假设检验、方差分析、卡方检.....
分类:
其他好文 时间:
2015-06-28 15:20:43
阅读次数:
153
一、简介 首先扯扯无参密度估计理论,无参密度估计也叫做非参数估计,属于数理统计的一个分支,和参数密度估计共同构成了概率密度估计方法。参数密度估计方法要求特征空间服从一个已知的概率密度函数,在实际的应用中这个条件很难达到。而无参数密度估计方法对先验知识要求最少,完全依靠训练数据进行估计,并且可以用于任...
分类:
编程语言 时间:
2015-05-05 21:26:41
阅读次数:
520
本实验的目的是学习Parzen窗估计和k最近邻估计方法。在之前的模式识别研究中,我们假设概率密度函数的参数形式已知,即判别函数J(.)的参数是已知的。本节使用非参数化的方法来处理任意形式的概率分布而不必事先考虑概率密度的参数形式。在模式识别中有躲在令人感兴趣的非参数化方法,Parzen窗估计和k最近邻估计就是两种经典的估计法。这里使用Matlab实现这两种估计方法。...
分类:
其他好文 时间:
2015-04-25 22:54:04
阅读次数:
1933
这次将介绍基于MeanShift的目标跟踪算法,首先谈谈简介,然后给出算法实现流程,最后实现了一个单目标跟踪的MeanShift算法【matlab/c两个版本】 csdn贴公式比较烦,原谅我直接截图了…一、简介 首先扯扯无参密度估计理论,无参密度估计也叫做非参数估计,属于数理统计的一个分支,和参数密...
分类:
编程语言 时间:
2015-04-17 13:34:54
阅读次数:
392
机器学习问题方法总结大类名称关键词有监督分类决策树信息增益分类回归树Gini指数,Χ2统计量,剪枝朴素贝叶斯非参数估计,贝叶斯估计线性判别分析Fishre判别,特征向量求解K最邻近相似度度量:欧氏距离、街区距离、编辑距离、向量夹角、Pearson相关系数逻辑斯谛回归(二值分类)参数估计(极大似然估计...
分类:
其他好文 时间:
2014-11-27 12:34:58
阅读次数:
369
机器学习问题方法总结大类名称关键词有监督分类决策树信息增益分类回归树Gini指数,Χ2统计量,剪枝朴素贝叶斯非参数估计,贝叶斯估计线性判别分析Fishre判别,特征向量求解K最邻近相似度度量:欧氏距离、街区距离、编辑距离、向量夹角、Pearson相关系数逻辑斯谛回归(二值分类)参数估计(极大似然估计...
分类:
其他好文 时间:
2014-08-03 23:05:56
阅读次数:
416