Perception Learning Algorithm, PLA 1.感知机 感知机是一种线性分类模型，属于判别模型。 感知机模型给出了由输入空间到输出空间的映射： f(X) = sign(WTX + b) 简单来说，就是找到一个分类超平面 WTX + b =0，将数据集中的正例和反例完全分开。 ...
分类：
编程语言 时间：
2018-09-03 19:31:17
阅读次数：
208
判别模型 误分点到超平面的距离 对偶解法（Gram矩阵） 多类分类， 回归 特征空间， 样本点 判别模型 三要素： 1、距离度量：曼哈顿和欧氏距离 2、k值选取：（估计误差和近似误差），交叉验证求最优 3、分类决策：多数表决 kd树（构造和搜索，适用于训练实例远大于空间维数） 特征与类别的联合概率 ...
分类：
其他好文 时间：
2018-08-29 19:57:48
阅读次数：
203
判别模型和生成模型：统计学派和贝叶斯学派之争 判别模型： 直接对输入空间到输出空间的映射h(x)做预测，或者直接对条件概率分布P(y|x)做预测 PM，SVM，NN，KNN，LR，DT 模型一般更准确 不需要预设条件 鲁棒性更高 生成模型： 先对概率分布P(x,y)做预测，根据贝叶斯公式得到P(y| ...
分类：
其他好文 时间：
2018-08-26 13:48:12
阅读次数：
174
判别模型(discriminative) vs生成模型(generative) 逻辑回归算法简单，对特征工程的要求就非常高。必须做特征归一化，否则各特征重要程度不一。 http://www.cnblogs.com/maybe2030/p/6336896.html ...
分类：
其他好文 时间：
2018-07-22 23:38:47
阅读次数：
229
机器学习 LR中的参数迭代公式推导——极大似然和梯度下降 机器学习 LR中的参数迭代公式推导——极大似然和梯度下降 Logistic本质上是一个基于条件概率的判别模型(DiscriminativeModel)。 函数图像为： 通过sigma函数计算出最终结果，以0.5为分界线，最终结果大于0.5则属 ...
分类：
其他好文 时间：
2018-07-01 19:28:38
阅读次数：
207
概念 监督学习方法可以分为生成方法(generative approach)和判别方法(discriminative approach),学习到的模型对应地可分为生成模型(generative model)和判别模型(discriminative model).生成模型的计算过程为，先根据既有数据学 ...
分类：
其他好文 时间：
2018-06-19 22:48:24
阅读次数：
187
DCGAN 的 训练 过程 分为 两步： 第一步， 生成 一个 大小 为（ BATCH_ SIZE, 100） 的 在- 1 ～ 1 平均 分布 的 噪声， 使用 Generator 生成 图像 样本， 然后 和 同样 大小 的 真实 MNIST 图像 样本 合并， 分别 标记 为 0 和 1， 对 ...
分类：
其他好文 时间：
2018-06-15 13:18:47
阅读次数：
5440
概念理解 监督学习方法可分为两大类，即生成方法与判别方法，它们所学到的模型称为生成模型与判别模型。 判别模型：判别模型是学得一个分类面（即学得一个模型），该分类面可用来区分不同的数据分别属于哪一类； 生成模型：生成模型是学得各个类别各自的特征（即可看成学得多个模型），可用这些特征数据和要进行分类的数 ...
分类：
其他好文 时间：
2018-05-23 22:05:13
阅读次数：
195
1、逻辑斯蒂分布 sigmoid 曲线 二项逻辑斯蒂回归模型，实际上是二项判别模型。 基于逻辑斯蒂的似然函数等于每个取值的概率之积。对数似然是对他们取log 多项逻辑斯蒂回归，实际是二项的扩展。 2、最大熵模型 由5.2.2节的熵模型。使我们需要的公式。 所谓最大熵，是指83页定义的条件熵的最大熵。 ...
分类：
其他好文 时间：
2018-05-18 00:34:27
阅读次数：
137
1、LR和SVM有什么相同点 （1）都是监督分类算法； （2）如果不考虑核函数，LR和SVM都是线性分类算法，也就是说他们的分类决策面都是线性的； （3）LR和SVM都是判别模型。 2、LR和SVM有什么不同点 （1）本质上是其loss function不同； 逻辑回归损失函数： SVM损失函数： ...
分类：
其他好文 时间：
2018-05-12 03:02:16
阅读次数：
140
