reference: http://dataunion.org/?p=5044机器学习和深度学习学习资料比较全面的收集了机器学习的介绍文章，从感知机、神经网络、决策树、SVM、Adaboost到随机森林、Deep Learning。《机器学习经典论文/survey合集》 介绍：看题目你已经知道了是什...
分类：
其他好文 时间：
2014-12-25 00:05:56
阅读次数：
375
本文讲述的决策树和计数排序的基本原理和实现方法，欢迎拍砖！...
分类：
编程语言 时间：
2014-12-24 16:24:00
阅读次数：
229
学习排序算法（二）：Pairwise方法之RankNet
前面一篇博文介绍的Ranking SVM是把LTR问题转化为二值分类问题，而RankNet算法是从另外一个角度来解决，那就是概率的角度。
1. RankNet的基本思想
RankNet方法就是使用交叉熵作为损失函数，学习出一些模型（例如神经网络、决策树等）来计算每个pair的排序得分，学习模型的过程可以使用梯度下降法。...
分类：
编程语言 时间：
2014-12-24 16:21:32
阅读次数：
1832
决策书既可以用于分类也可以用于回归分析，本文的决策书仅针对与分类一、基本知识1、什么是分类决策树？ 分类决策树模型是一种描述对实例进行分类的树形结构。由结点和有向边组成，结点分为内部结点和叶结点，内部结点表示特征，叶节点表示类，有向边则表示某一个特征的取值2、分类决策树学习算法的过程？（1）特征选....
分类：
其他好文 时间：
2014-12-19 13:03:04
阅读次数：
197
1. 算法背景介绍分类树（决策树）是一种十分常用的分类方法。它是一种监管学习，所谓监管学习说白了很简单，就是给定一堆样本，每个样本都有一组属性和一个类别，这些类别是事先确定的，那么通过学习得到一个分类器，这个分类器能够对新出现的对象给出正确的分类。这样的机器学习就被称之为监督学习。C4.5分类树就是...
分类：
编程语言 时间：
2014-12-18 11:53:35
阅读次数：
336
决策树算法是一种逼近离散函数值的方法，是一种典型的分类方法。决策树算法构造决策树来发现数据中蕴涵的分类规则。如何构造精度高，规模小的决策树是决策树算法的核心内容。一般情况下分两步进行，1.决策树的生成。2.决策树的剪枝。（对上一个阶段生成的决策树进行检验，校正和修下的过程，方法：使用测试数据集校.....
分类：
编程语言 时间：
2014-12-17 14:28:52
阅读次数：
203
原文:《BI那点儿事》Microsoft 神经网络算法Microsoft神经网络是迄今为止最强大、最复杂的算法。要想知道它有多复杂，请看SQL Server联机丛书对该算法的说明：“这个算法通过建立多层感知神经元网络，建立分类和回归挖掘模型。与Microsoft决策树算法类似，在给定了可预测属性的每...
分类：
编程语言 时间：
2014-12-16 08:44:35
阅读次数：
235
Microsoft神经网络是迄今为止最强大、最复杂的算法。要想知道它有多复杂，请看SQL Server联机丛书对该算法的说明：“这个算法通过建立多层感知神经元网络，建立分类和回归挖掘模型。与Microsoft决策树算法类似，在给定了可预测属性的每个状态时， Microsoft神经网络算法计算输入属性...
分类：
编程语言 时间：
2014-12-15 18:54:54
阅读次数：
242
决策树也是最经常使用的数据挖掘算法，决策树分类器就像判断模块和终止块组成的流程图，终止块表示分类结果（也就是树的叶子）。判断模块表示对一个特征取值的判断（该特征有几个值，判断模块就有几个分支）。决策树的生成过程就是一个数据集不断被划分的过程，划分数据集的最大原则是：使无序的数据变的有序。如果一个训练数据中有20个特征，那么选取哪个做划分依据？这就必须采用量化的方法来判断，量化划分方法有多重，其中一项就是“信息论度量信息分类”。基于信息论的决策树算法有ID3、CART和C4.5等算法，其中C4.5和CART两...
分类：
编程语言 时间：
2014-12-14 20:03:24
阅读次数：
661
朴素贝叶斯分类是贝叶斯分类器的一种，贝叶斯分类算法是统计学的一种分类方法，利用概率统计知识进行分类，其分类原理就是利用贝叶斯公式根据某对象的先验概率计算出其后验概率（即该对象属于某一类的概率），然后选择具有最大后验概率的类作为该对象所属的类。总的来说：当样本特征个数较多或者特征之间相关性较大时，朴素贝叶斯分类效率比不上决策树模型；当各特征相关性较小时，朴素贝叶斯分类性能最为良好。另外朴素贝叶斯的计算过程类条件概率等计算彼此是独立的，因此特别适于分布式计算。本文详述了朴素贝叶斯分类的统计学原理，并在文本分类中...
分类：
编程语言 时间：
2014-12-12 20:56:48
阅读次数：
1004
