七月在线4月机器学习算法班课程笔记——No.8
1. 统计学习基础回顾1.1 先验概率与后验概率 先验概率：根据以往经验和分析得到的概率，如全概率公式，它往往作为”由因求果”问题中的”因”出现。
后验概率：依据得到”结果”信息所计算出的最有可能是那种事件发生，如贝叶斯公式中的，是”执果寻因”问题中的”因”。后验概率可以根据通过贝叶斯公式，用先验概率和似然函数计算出来。
贝叶斯定理：假设...
分类：
编程语言 时间：
2016-06-21 08:04:13
阅读次数：
2226
七月算法--12月机器学习在线班-第七次课笔记—最大熵 七月算法（julyedu.com）12月机器学习在线班学习笔记 http://www.julyedu.com ...
分类：
编程语言 时间：
2016-05-13 21:54:47
阅读次数：
500
本文详细介绍了图像基本变换---图像二值化(包含OSTU/迭代法/统计法/双峰法/P分位法/最大熵法)的相关知识，并 给出了完整程序DEMO的下载链接，跟大家分享一下，希望大家喜欢！...
分类：
其他好文 时间：
2016-05-12 12:06:34
阅读次数：
354
一、概述 在日常生活中或者科学试验中，很多的事情发生都具有一定的随机性，即最终产生的结果是随机发生的，我们不清楚这些结果是否服从什么规律，我们所拥有的只有一些实验样本，在这种情况下，我们如何根据现拥有的东西对结果产生一个合理的推断呢？最大熵方法就是解决这种问题的一个方法。 最大熵原理是有E.T.Ja ...
分类：
其他好文 时间：
2016-05-08 18:26:50
阅读次数：
252
图像算法：图像阈值分割 SkySeraph Dec 21st 2010 HQU Email：zgzhaobo@gmail.com QQ：452728574 Latest Modified Date：Dec.21st 2010 HQU 一、工具：VC+OpenCV 二、语言：C++ 三、原理(略) 四 ...
分类：
编程语言 时间：
2016-05-04 21:09:24
阅读次数：
566
1、概率模型
机器学习中的很多模型可以根据概率分布形式分为生成模型和判别模型，其中生成模型以输入输出的联合分布P(X,Y)为基础建模，如朴素贝叶斯、隐马尔可夫模型；判别模型以条件概率分布P(Y|X)为基础建模，如最大熵模型、条件随机场等。这几个模型之间有一定的关系，它们的关系如下：
其中，NB表示朴素贝叶斯，ME表示最大熵，HMM表示隐马尔科夫，CRF表示条件随机场。joint联合分布，co...
分类：
其他好文 时间：
2016-04-17 23:10:02
阅读次数：
392
红外目标图像中阈值分割方法的比较与研究
摘要：本文主要以红外图像目标检测技术为背景，在图像阈值分割中以最大熵准则及遗传算法为基础，研究了一维最大熵值法（KSW法）及基于遗传算法的KSW熵法单阈值、双阈值等三种不同的阈值分割方法，并通过实验仿真验证了它们的性能及差异。实验结果表明：基于遗传算法的KSW熵法的双阈值分割方法，可以用于红外型目标检测系统中，并取得良好效果，为了验证其是否具有普适性...
分类：
其他好文 时间：
2016-04-10 14:54:41
阅读次数：
521
第6章 逻辑回归与最大熵模型
逻辑回归(logistic regression)是统计学习中的经典分类方法。最大嫡是概率模型学习的一个准则将其推广到分类问题得到最大熵模型(maximum entropy model)。逻辑回归模型与最大熵模型都属于对数线性模型。
6.1 逻辑回归模型
定义6.1(逻辑分布)：设X是连续随机变量，X服从逻辑斯谛分布是指
X具有下列分布函数和密度函...
分类：
其他好文 时间：
2016-03-30 13:13:41
阅读次数：
225
序列标注问题应该说是自然语言处理中最常见的问题，而且很可能是最而没有之一。在深度学习没有广泛渗透到各个应用领域之前，传统的最常用的解决序列标注问题的方案是最大熵、CRF等模型，尤其是CRF，基本是最主流的方法。随着深度学习的不断探索和发展，很可能RNN模型会取代CRF的传统霸主地位，会成为解决序列标注问题的标配解决方案。...
分类：
其他好文 时间：
2016-02-23 20:57:37
阅读次数：
601
这是一个最大熵的简明Java实现，提供训练与预测接口。训练采用GIS训练算法，附带示例训练集。本文旨在介绍最大熵的原理、分类和实现，不涉及公式推导或其他训练算法，请放心食用。最大熵理论简介最大熵属于辨识模型,能够满足所有已知的约束, 对未知的信息不做任何过分的假设。什么叫已知的约束？本文不会使用晦涩...
分类：
编程语言 时间：
2015-12-27 20:24:21
阅读次数：
194
