CONTINUOUS RANDOM VARIABLES AND PDFS连续的随机变量，顾名思义。就是随机变量的取值范围是连续的值，比如汽车的速度。气温。假设我们要利用这些參数来建模。那么就须要引入连续随机变量。假设随机变量X是连续的，那么它的概率分布函数能够用一个连续的非负函数来表示，这个非负函数...
分类：
其他好文 时间：
2015-09-14 22:38:07
阅读次数：
293
前言 本章的两个模型都是对数线性模型。 逻辑斯蒂分布 如果变量X服从逻辑斯蒂分布，那么X的分布一定是y轴对称的。曲线在中心部分增长的较快。两端增长缓慢。 二项逻辑斯蒂回归模型 其本质就是条件概率P(Y|X)。也就意味着给定X，求出最大可能的Y来。 Y取值只有1和0。 考虑条件概率分布。 逻辑斯蒂回归...
分类：
其他好文 时间：
2015-09-01 21:27:01
阅读次数：
237
discriminative model 和 generative model是机器学习算法中两种概率模型，用来实现对训练样本的概率分布进行建模，在实践中由于经常混淆，现在通过查阅资料，将两者的分别总结于此。...
分类：
其他好文 时间：
2015-08-31 21:47:15
阅读次数：
158
需要知道的是在什么时候可以用朴素贝叶斯算法：需要保证特征条件独立。 主要过程是学习输入和输出的联合概率分布。 预测的时候，就可以根据输入获得对打后验概率对应的输出y。 先验概率：已知输出，求输入。后验概率相反。 简单来说朴素贝叶斯算法，就是在对样本进行学习之后，到了需要做决策的时候，给定...
分类：
编程语言 时间：
2015-08-28 22:54:41
阅读次数：
285
第11章 条件随机场条件随机场(conditional random field, CRF)是给定一组输入随机变量条件下另一组输出随机变量的条件概率分布模型，其特点是假设输出随机变量构成马尔可夫随机场。条件随机场可以用于不同的预测问题，本章主要讲述线性链(linear chain)条件随机场在标注问...
分类：
其他好文 时间：
2015-08-28 21:24:31
阅读次数：
1900
第5章 决策树决策树(decision tree)是一种基本的分类与回归方法。本章主要讨论用于分类的决策树。决策树模型呈树形结构，在分类问题中，表示基于特征对实例进行分类的过程。它可以认为是if-then规则的集合，也可以认为是定义在特征空间与类空间上的条件概率分布。其主要优点是模型具有可读性，分类...
分类：
其他好文 时间：
2015-08-28 19:35:02
阅读次数：
1020
朴素贝叶斯法是基于贝叶斯定理与特征条件独立假设的分类方法。，对于给定的训练数据集，首先基于特征条件独立假设学习输入与输出的联合概率分布；然后基于此模型，对给定的输入x，利用贝叶斯定理求出后验概率最大的输出y，朴素贝叶斯方法实现简单，学习与预测的效率都很高，是一种常用的方法。下面主要说一下朴素贝叶斯的...
分类：
其他好文 时间：
2015-08-18 17:59:14
阅读次数：
271
接着上一篇的继续来写。朴素贝叶斯法分类时，对给定的输入x，通过学习得到的模型计算后验概率分布P（Y=ck|X=x）,然后将后验概率最大的类作为x的类输出。后验概率计算根据贝叶斯定理进行：P（Y=ck|X=x）=P（X=x|Y=ck）*P（Y=ck)/(sum (k)P（X=x|Y=ck）*P（Y=c...
分类：
其他好文 时间：
2015-08-18 17:57:52
阅读次数：
126
熵给定一个离散变量，我们观察它的每一个取值所包含的信息量的大小，因此，我们用来表示信息量的大小，概率分布为。当p(x)=1时，说明这个事件一定会发生，因此，它带给我的信息为0.（因为一定会发生，毫无悬念）如果x和y独立无关，那么：他们之间的关系为：（p(x)=1时，h(x)=0，负号为了确保h(x)...
分类：
其他好文 时间：
2015-08-18 11:32:27
阅读次数：
264
