什么是熵(Entropy)简单来说，熵是表示物质系统状态的一种度量，用它老表征系统的无序程度。熵越大，系统越无序，意味着系统结构和运动的不确定和无规则；反之，，熵越小，系统越有序，意味着具有确定和有规则的运动状态。熵的中文意思是热量被温度除的商。负熵是物质系统有序化，组织化，复杂化状态的一种度量。熵...
分类：
其他好文 时间：
2015-07-16 16:04:48
阅读次数：
169
1.ID3选择最大化Information Gain的属性进行划分 C4.5选择最大化Gain Ratio的属性进行划分规避问题：ID3偏好将数据分为很多份的属性解决：将划分后数据集的个数考虑进去entropy（其中RF-relative frequency）Information Gain->ID...
分类：
其他好文 时间：
2015-06-28 16:57:41
阅读次数：
104
使用k-means算法对数据进行聚类之后，通常需要估计一下...
分类：
其他好文 时间：
2015-06-12 10:04:03
阅读次数：
810
本文记录x264的 x264_slice_write()函数中调用的x264_macroblock_write_cavlc()的源代码。x264_macroblock_write_cavlc()对应着x264中的熵编码模块。熵编码模块主要完成了编码数据输出的功能。...
分类：
其他好文 时间：
2015-05-24 23:40:45
阅读次数：
304
本文简单分析x264的x264_slice_write()的源代码。x264_slice_write()是x264项目的核心，它完成了编码了一个Slice的工作。根据功能的不同，该函数可以分为滤波（Filter），分析（Analysis），宏块编码（Encode）和熵编码（Entropy Encoding）几个子模块。本文首先对x264_slice_write()进行总体的概括，在后续文章中将会对上述几个子模块展开进行分析。...
分类：
其他好文 时间：
2015-05-17 18:42:38
阅读次数：
570
第一部分是学习ID3时候积累的。一.以前写的基础知识 1.信息：是用来消除不确定性的度量，信息量的大小，由所消除的不确定性的大小来计量（香农）。 2.由于不确定性是由随机性引起的，所以用概率来描述和计量；熵entropy：源于热力学，是分子混乱程度的度量。 3.X(离散型随机变量)的熵H(...
分类：
其他好文 时间：
2015-05-14 23:45:24
阅读次数：
203
题目链接：http://acm.zju.edu.cn/onlinejudge/showProblem.do?problemCode=3827
题面：
Information Entropy
Time Limit: 2 Seconds Memory Limit: 65536 KB Special Judge
Information Theo...
分类：
其他好文 时间：
2015-05-04 08:41:30
阅读次数：
109
Entropy
Time Limit: 2000/1000 MS (Java/Others) Memory Limit: 65536/32768 K (Java/Others)
Total Submission(s): 4609 Accepted Submission(s): 1900
Problem Description
An entropy encoder i...
分类：
其他好文 时间：
2015-05-02 12:30:56
阅读次数：
154
本文分析FFmpeg的H.264解码器的熵解码（Entropy Decoding）部分的源代码。FFmpeg的H.264解码器调用decode_slice()函数完成了解码工作。这些解码工作可以大体上分为3个步骤：熵解码，宏块解码以及环路滤波。本文分析这3个步骤中的第1个步骤。...
分类：
其他好文 时间：
2015-04-18 17:43:54
阅读次数：
322
