最近一段时间在Coursera上学习Data
Analysis，里面有个assignment涉及到了决策树，所以参考了一些决策树方面的资料，现在将学习过程的笔记整理记录于此，作为备忘。
(示例中 拥有房产（是/否）)作为label
label就是结论，由feature->label
假设这是一个结算过程
y=f(x)
那么，转换成语言就是
label=f(fe...
分类：
其他好文 时间：
2016-04-01 18:18:13
阅读次数：
251
import matplotlib.pyplot as plt from sklearn import datasets import numpy as np from sklearn.tree import DecisionTreeClassifier n_features = 200 X, y ...
分类：
其他好文 时间：
2016-03-31 12:38:00
阅读次数：
1497
前言 在程序设计过程中，经常会出现多层逻辑控制的嵌套，而这样的嵌套关系往往会导致我们不能直观的看出程序的逻辑关系，这会导致在测试过程中比较容易出现遗漏。因此我们需要引入决策表、决策树，其中决策表就是设计逻辑控制时十分重要的一个工具。 决策表 话不多说，先看看定义（虽然并且没多少人能一眼看懂），但我还 ...
分类：
移动开发 时间：
2016-03-30 14:39:01
阅读次数：
220
第12章 统计学习方法总结
1 适用问题
分类问题是从实例的特征向量到类标记的预测问题；标注问题是从观测序列到标记序列(或状态序列)的预测问题。可以认为分类问题是标注问题的特殊情况。
分类问题中可能的预测结果是二类或多类；而标注问题中可能的预测结果是所有的标记序列，其数目是指数级的。
感知机、k近邻法、朴素贝叶斯法、决策树是简单的分类方法，具有模型直观、方法简单、实现容易等特...
分类：
其他好文 时间：
2016-03-30 13:14:29
阅读次数：
232
第5章 决策树
决策树(decision tree)是一种基本的分类与回归方法。本章主要讨论用于分类的决策树。决策树模型呈树形结构，在分类问题中，表示基于特征对实例进行分类的过程。它可以认为是if-then规则的集合，也可以认为是定义在特征空间与类空间上的条件概率分布。其主要优点是模型具有可读性，分类速度快。学习时，利用训练数据，根据损失函数最小化的原则建立决策树模型。预测时，对新的数据，利用决...
分类：
其他好文 时间：
2016-03-30 13:13:19
阅读次数：
248
5.3决策树的生成
5.3.1 ID3算法
ID3算法的核心实在决策树个国际电商应用信息增益准则选择特征，递归的构建决策树。
具体方法：从根结点（root node）开始，对接点计算所有可能的特征信息增益，选择信息增益最大的特征最为节点的的特征（注意：信息增益表示得知特征X的信息而使得类Y的信息不确定性减少的程度，而我们进行特征选择在于选取对训练数...
分类：
其他好文 时间：
2016-03-29 13:05:24
阅读次数：
217
手把手生成决策树(dicision tree)标签： Python 机器学习1.什么是决策树决策树是一种基本的分类和回归方法，本文主要讲解用于分类的决策树。决策树就是根据相关的条件进行分类的一种树形结构，比如某高端约会网站针对女客户约会对象见面的安排过程就是一个决策树：
根据给定的数据集创建一个决策树就是机器学习的课程，创建一个决策树可能会花费较多的时间，但是使用一个决策树却非常快。创建决策树时最...
分类：
其他好文 时间：
2016-03-26 07:08:53
阅读次数：
432
参考资料：《机器学习实战》 Peter Harrington ...
分类：
其他好文 时间：
2016-03-24 13:07:09
阅读次数：
165
人工智能实战——人工神经网络给最近人工智能辣摸火，让我忍不住也想一探究竟，首先从目前来讲我是一个人工智能领域的门外汉，尽管恶补了几天基本知识，机器学习算法看得差不多，神马线性回归啊，逻辑回归啊，SVM啊，k临近算法啊，决策树啊，随机森林啊，看的我吐血了，不过也不难理解，然后尝试着用一套开源代码FANN(c语言跨平台库)编译到ios中写一个简单的小机器人首先是准备工作，把FANN2.2.0的源代码编...
分类：
移动开发 时间：
2016-03-21 14:15:51
阅读次数：
395
http://www.cnblogs.com/wentingtu/archive/2011/12/13/2286212.html 随机森林，是用随机的方式建立一个森林，森林里面有很多的决策树组成，随机森林的每一棵决策树之间是没有关联的。在得到森林之后，当有一个新的输入样本进入的时候，就让森林中的每一
分类：
其他好文 时间：
2016-03-08 23:55:36
阅读次数：
241
