1：简单概念描述
Adaboost是一种弱学习算法到强学习算法，这里的弱和强学习算法，指的当然都是分类器，首先我们需要简单介绍几个概念。
1：弱学习器：在二分情况下弱分类器的错误率会高于50%。其实任意的分类器都可以做为弱分类器，比如之前介绍的KNN、决策树、Naïve Bayes、logiostic回归和SVM都可以。这里我们采用的弱分类器是单层决策树，它是一个单节点的决策树。...
分类：
其他好文 时间：
2014-08-18 22:07:03
阅读次数：
334
通常情况下，我们直接使用分类结果的错误率就可以做为该分类器的评判标准了，但是当在分类器训练时正例数目和反例数目不相等时，这种评价标准就会出现问题。这种现象也称为非均衡分类问题。此时有以下几个衡量标准。
(1) 正确率和召回率
如下图所示：其中准确率指预测的真实正例占所有真实正例的比例，等于TP/(TP+FP)，而召回率指预测的真实正例占所有真实正例的比例，等于T...
分类：
其他好文 时间：
2014-08-18 22:04:13
阅读次数：
392
文本分类现已比较成熟，各类开源工具不少，现推荐几个比较常用简单的工具：1、scikit-learn：http://scikit-learn.org/stable/index.html python编写调用，里面有各种分类算法svm、随机森林、贝叶斯等，和特征提取，如字、ngram等，几行代码便可以构...
分类：
其他好文 时间：
2014-08-18 17:52:42
阅读次数：
193
CSDN的博主poson在他的博文《机器学习的最优化问题》中指出“机器学习中的大多数问题可以归结为最优化问题”。我对机器学习的各种方法了解得不够全面，本文试图从凸优化的角度说起，简单介绍其基本理论和在机器学习算法中的应用。 1.动机和目的 人在面临选择的时候重视希望自己能够做出“最好”的选择，如果把...
分类：
其他好文 时间：
2014-08-16 21:03:31
阅读次数：
192
MALLET：基于Java语言的用于统计自然语言处理，文件分类，聚类，主题建模，信息提取，和其他的用于文本的机器学习应用的Java包。
MALLET包括复杂的用于文件分类的工具：
有效的用于转换文本到“特征”的程序，多种多样的算法（包括朴素贝叶斯，最大熵，和决策树）。以及一些通用的指标用于评估分类器性能。
除了分类，MALLET包括序列标注的工具，像从文本...
分类：
其他好文 时间：
2014-08-16 11:15:20
阅读次数：
256
Logisticregression（逻辑回归）是当前业界比较常用的机器学习方法，用于估计某种事物的可能性。比如某用户购买某商品的可能性，某病人患有某种疾病的可能性，以及某广告被用户点击的可能性等。（注意这里是：“可能性”，而非数学上的“概率”，logisitc回归的结果并非数学定义中的概率值，不可...
分类：
其他好文 时间：
2014-08-15 20:56:49
阅读次数：
333
网易公开课，第15课 notes，11 参考， PCA本质是旋转找到新的基(basis)，即坐标轴，并且新的基的维数大大降低 ICA也是找到新的基，但是目的是完全不一样的，而且ICA是不会降维的 对于ICA，最经典的问题，“鸡尾酒会”问题 在鸡尾酒会，上很多人同时在说话，还有背景音乐，如果我们放若干...
分类：
其他好文 时间：
2014-08-15 17:33:09
阅读次数：
197
葛一鸣老师写作的《自己动手写神经网络》电子书在百度阅读上线了。主页：http://t.cn/RPjZvzs。《自己动手写神经网络》面向智能设备爱好者、计算机科学爱好者、极客、程序猿、人工智能爱好者和物联网从业人员，是目前市场上第一本也是唯一一本采用Java打造的神经网络图书。《自..
分类：
其他好文 时间：
2014-08-15 14:49:49
阅读次数：
266
linger博客原创性博文导航
http://blog.csdn.net/lingerlanlan
大学研究游戏外挂技术开始了此博客，断断续续写了些博文。后来，开始机器学习和深度学习的研究工作，由于喜欢和热爱，业余时间也经常性学习，并写博文总结。因此，博文越来越多，由于博文是根据时间排序的，看起来有点乱，所以在此处写个导航。
UFLDL学习笔记和编程
ufldl...
分类：
其他好文 时间：
2014-08-15 00:01:26
阅读次数：
372
网易公开课，第14课 notes，10 之前谈到的factor analysis，用EM算法找到潜在的因子变量，以达到降维的目的 这里介绍的是另外一种降维的方法，Principal Components Analysis (PCA)， 比Factor Analysis更为直接，计算也简单些 主成分分...
分类：
其他好文 时间：
2014-08-13 17:52:06
阅读次数：
288
