一、H.264 的层次介绍
H.264 定义三个层次，每个层次支持一组特定的编码功能，并且依照各个层次指定所指定的功能。基础层次(baselineprofile)支持 I
帧和 P 帧【1】的帧内和帧间编码，支持自适应的可变长度的熵编码(CAVLC)。主要层次(main profile)支持隔行扫描视频，B 帧【2】的帧内编码，使用加权预测的帧内编码和使用上下文的算术编码(CABAV)。扩...
分类：
其他好文 时间：
2014-08-15 01:30:26
阅读次数：
390
EntropyService：熵（shang）服务，用于产生随机数 PowerManagerService：电源管理服务 ActivityManagerService：最核心服务之一，Activity管理服务 TelephonyRegistry：电话服务，电话底层通知服务 PackageManag...
分类：
移动开发 时间：
2014-08-12 14:01:14
阅读次数：
306
上一节我们学习knn，kNN的最大缺点就是无法给出数据的内在含义，而使用决策树处理分类问题，优势就在于数据形式非常容易理解。 决策树的算法有很多，有CART、ID3和C4.5等，其中ID3和C4.5都是基于信息熵的，也是我们今天的学习内容。1. 信息熵 熵最初被用在热力学方面的，由热力学第二...
分类：
其他好文 时间：
2014-08-12 02:58:03
阅读次数：
2296
在利用张乐博士的最大熵模型工具包(Maximum Entropy Modeling Toolkit for Python and C++)和条件随机场的经典工具包CRF++(CRF++: Yet Another CRF toolkit)进行分词的时候，发现工具包不能正常安装，从报出的错误推测是gcc的版本较低，上述工具包发布于2011年，推测使用了较新的C++11标准。我们知道C++11标准开始支...
分类：
其他好文 时间：
2014-08-06 01:59:30
阅读次数：
151
先简单说一下关于信息熵的东西：信息熵是信息多少的量度，一个事件所携带的信息量跟它出现的概率反相关，直观上来说，一个事件出现的越频繁则每次该事件出现时携带的信息就少，反之如果一个事件非常少见，则该事件出现的时候携带的信息量就非常高。具体公式是：$$I= -log(p)$$ 也就是$$I=log(p/1...
分类：
其他好文 时间：
2014-07-30 00:39:12
阅读次数：
195
信息熵和信息增益
一、信息熵
信息熵是信息论中的基本概念。信息论由Shannon于1948年提出并发展起来，用于解决信息传递过程中的问题，也称统计通信理论。它认为：
1、信息传递由信源、信道和信宿组成；
2、传递系统存在于一个随机干扰环境中，因此传递系统对信息的传递是随机误差的。如果把发送信息记为U而接收到信息记 V，由信道可记为通信模型，为P(U|V)。信道模型是一个条件...
分类：
其他好文 时间：
2014-07-28 00:03:29
阅读次数：
451
隐马尔科夫模型（HMM）：
图1. 隐马尔科夫模型
隐马尔科夫模型的缺点：
1、HMM只依赖于每一个状态和它对应的观察对象：
序列标注问题不仅和单个词相关，而且和观察序列的长度，单词的上下文，等等相关。
2、目标函数和预测目标函数不匹配：
HMM学到的是状态和观察序列...
分类：
其他好文 时间：
2014-07-27 11:55:03
阅读次数：
338
所谓Android的核心服务主要包括熵服务（Entropy Service）、电源管理器（Power Manager）、Activity管理器（Activity Manager）、通话寄存器（Telephony Registry）、包管理器（Package Manager）、账户管理器（Accoun...
分类：
移动开发 时间：
2014-07-23 12:38:06
阅读次数：
202
决策树的优势就在于数据形式非常容易理解，而kNN的最大缺点就是无法给出数据的内在含义。
1：简单概念描述
决策树的类型有很多，有CART、ID3和C4.5等，其中CART是基于基尼不纯度(Gini)的，这里不做详解，而ID3和C4.5都是基于信息熵的，它们两个得到的结果都是一样的，本次定义主要针对ID3算法。下面我们介绍信息熵的定义。
事件ai发生的概率用p(ai...
分类：
其他好文 时间：
2014-07-21 22:21:08
阅读次数：
360
Linux中的随机数可以从两个特殊的文件中产生，一个是/dev/urandom.另外一个是/dev/random。他们产生随机数的原理是利用当前系统的熵池来计算出固定一定数量的随机比特，然后将这些比特作为字节流返回。熵池就是当前系统的环境噪音，熵指的是一个系统的混乱程度，系统噪音可以通过很多参数来评...
分类：
系统相关 时间：
2014-07-11 09:31:40
阅读次数：
220
