MLlib支持二分类，多酚类和回归分析的多种方法，具体如下：问题类别 支持方法二分类线性支持向量机， 逻辑回归，决策树，朴素贝叶斯多分类决策树，朴素贝叶斯回归线性最小二乘，Lasso，ridge regression， 决策树线性模型二分类（支持向量机， 逻辑回归）线性回归（最小二乘，Lasso，....
分类：
其他好文 时间：
2015-01-13 15:39:08
阅读次数：
469
介绍
KNN算法全名为k-Nearest Neighbor，就是K最近邻的意思。KNN也是一种分类算法。但是与之前说的决策树分类算法相比，这个算法算是最简单的一个了。算法的主要过程为：
1、给定一个训练集数据，每个训练集数据都是已经分好类的。
2、设定一个初始的测试数据a，计算a到训练集所有数据的欧几里得距离，并排序。
3、选出训练集中离a距离最近的K个训练集数据。
4、比较k个训练集数...
分类：
编程语言 时间：
2015-01-12 09:32:18
阅读次数：
599
CART分类回归树算法
与上次文章中提到的ID3算法和C4.5算法类似，CART算法也是一种决策树分类算法。CART分类回归树算法的本质也是对数据进行分类的，最终数据的表现形式也是以树形的模式展现的，与ID3，C4.5算法不同的是，他的分类标准所采用的算法不同了。下面列出了其中的一些不同之处：
1、CART最后形成的树是一个二叉树，每个节点会分成2个节点，左孩子节点和右孩子节点，而在ID3和C...
分类：
编程语言 时间：
2015-01-09 21:03:52
阅读次数：
323
http://blog.csdn.net/lsldd/article/details/41223147从这一章开始进入正式的算法学习。首先我们学习经典而有效的分类算法：决策树分类算法。1、决策树算法决策树用树形结构对样本的属性进行分类，是最直观的分类算法，而且也可以用于回归。不过对于一些特殊的逻辑分...
分类：
编程语言 时间：
2015-01-07 20:43:41
阅读次数：
236
为什么叫快速排序
这个标题是带有歧义的，每一种排序都有自己的名字，有的是发明者+排序（Shell排序），有的是用的步骤名称+排序（插入排序）...
而快速排序是以它的属性+排序为名（这不是废话吗）。那么我再换个意义明确的标题：
快速排序为什么那么快
要弄明白这一点首先需要了解基于比较的排序模型：决策树
对大小为n的输入，其位置关系有n！种可能。排序算法的工作就是在所有...
分类：
编程语言 时间：
2015-01-06 10:14:03
阅读次数：
249
一、引言
在最开始的时候，我本来准备学习的是C4.5算法，后来发现C4.5算法的核心还是ID3算法，所以又辗转回到学习ID3算法了，因为C4.5是他的一个改进。至于是什么改进，在后面的描述中我会提到。
二、ID3算法
ID3算法是一种分类决策树算法。他通过一系列的规则，将数据最后分类成决策树的形式。分类的根据是用到了熵这个概念。熵在物理这门学科中就已经出现过，表示是一个物质的稳定度，在这里就...
分类：
编程语言 时间：
2015-01-04 21:31:19
阅读次数：
180
构建决策树的目的是对已有的数据进行分类，得到一个树状的分类规则，然后就可以拿这个规则对未知的数据进行分类预测。
决策树归纳是从有类标号的训练元祖中学习决策树。
决策树是一种类似于流程图的树结构，其中每个内部节点（非树叶结点）表示一个属性上的测试，每个分支代表该测试上的一个输出，而每个树叶结点（或终端结点）存放一个类标号。树的最顶层结点是根结点。一个典型的决策树如下图所示，...
分类：
其他好文 时间：
2014-12-31 11:24:56
阅读次数：
208
ID3使用信息增益作为属性选择度量。该度量基于香农在研究消息的值或”信息内容“的信息论方面的先驱工作。该结点N代表或存放分区D的元组。选择具有最高信息增益的属性作为结点N的分裂属性。该属性使结果分区中对元祖分类所需要的信息量最小，并反映这些分区中的最小随机性或”不纯性“。这种方法使得对一个对象分类所需要的期望测试数目最小，并确保找到一颗简单的（但不必是最简单的）树。...
分类：
编程语言 时间：
2014-12-31 11:22:42
阅读次数：
147
Classification And Regression Tree(CART)是一种很重要的机器学习算法，既可以用于创建分类树（Classification Tree），也可以用于创建回归树（Regression Tree），本文介绍了CART用于离散标签分类决策和连续特征回归时的原理。决策树创建过程分析了信息混乱度度量Gini指数、连续和离散特征的特殊处理、连续和离散特征共存时函数的特殊处理和后剪枝；用于回归时则介绍了回归树和模型树的原理、适用场景和创建过程。个人认为，回归树和模型树可以被看做“群落分类...
分类：
编程语言 时间：
2014-12-30 13:40:48
阅读次数：
767
从决策树学习谈到贝叶斯分类算法、EM、HMM （Machine Learning &Recommend Search交流新群：172114338）引言 近期在面试中，除了基础 & 算法 & 项目之外，经常被问到或被要求介绍和描写叙述下自己所知道的几种分类或聚类算法(当然，这全...
分类：
编程语言 时间：
2014-12-25 22:05:08
阅读次数：
372
