python机器学习之决策树

标签：img   png   names   结构   解决问题   苹果   res   selection   class   

决策树（Decision Tree)是一种非参数的有监督学习方法，它能够从一系列有特征和标签的数据中总结出决策规则，并用树状图的结构来呈现这些规则，以解决分类和回归问题。决策树尤其在以数模型为核心的各种集成算法中表现突出。
开放平台：Jupyter lab
根据菜菜的sklearn课堂实效生成一棵决策树。
三行代码解决问题。

from sklearn import tree                          #导入需要的模块
clf = tree.DecisionTreeClassifier()             #实例化
clf = clf.fit(X_train,Y_train)                      #用训练集数据训练模型
result = clf.score(X_test,Y_test)               #导入测试集，从接口中调用所需要信息

 利用红酒数据集画出一棵决策树。

从sklearn库中引入决策树、红酒数据集

from sklearn import tree
from sklearn.datasets import load_wine
from sklearn.model_selection import train_test_split

根据不纯度找出最佳节点和最佳的分歧方法。计算不纯度有两个指标：信息熵和基尼（Gini）指数。

例化决策树，DecisionTreeClassifier是分类树，DecisionTreeRegressor是回归树，tree.export_graphviz命令是将生成的决策树导出为DOT格式，画图专用。通常使用基尼系数，数据维数很大，噪声很大时使用基尼系数。维度低，数据比较清晰时，信息熵与基尼系数没区别。当决策树的拟合程度不够时，使用信息熵。

下面例化决策树，首先将数据分成训练集和测试集。

Xtrain,Xtest,Ytrain,Ytest = train_test_split(wine.data, wine.target, test_size = 0.3)

注意分类的顺序为XXYY

clf = tree.DecisionTreeClassifier(criterion = "entropy")
clf = clf.fit(Xtrain, Ytrain)
score = clf.score(Xtest, Ytest) #返回预测的准确度accuracy

我得到的分数为

效果还可以。

决策树在此时已经生成，但是不太直观，之后我们进行图像的绘制。将特征和类别命名。

feature_name = ["酒精","苹果酸","灰","灰的碱性","镁","总酚","类黄酮","非黄烷类酚类","花青素","颜色强度","色调","od280/od315稀疏葡萄酒","脯氨酸"]

import graphviz
dot_data = tree.export_graphviz(clf
                                ,feature_names = feature_name
                                ,class_names = ["琴酒","雪莉","贝尔莫得"]
                                ,filled = True   #填充颜色
                                ,rounded = True    #画出的方块无棱角
                               )

graph = graphviz.Source(dot_data)
graph

然后运行，我们就可以得到一棵树啦(*^▽^*)。

运行[*zip(feature_name,clf.feature_importances_)] 可以看到每个属性在分类时的比重。得到：

[(‘酒精‘, 0.03965653811434505),
(‘苹果酸‘, 0.02068204382894391),
(‘灰‘, 0.0),
(‘灰的碱性‘, 0.0),
(‘镁‘, 0.06068969686746859),
(‘总酚‘, 0.0),
(‘类黄酮‘, 0.061368064261131956),
(‘非黄烷类酚类‘, 0.0),
(‘花青素‘, 0.0),
(‘颜色强度‘, 0.08690808214504504),
(‘色调‘, 0.03270487272137427),
(‘od280/od315稀疏葡萄酒‘, 0.26633722918973335),
(‘脯氨酸‘, 0.4316534728719579)]

可以看到并不是所有的特征都发挥着作用，只有八个特征有比重，且比重最大为脯氨酸，其次是od280/od315稀疏葡萄酒。

python机器学习之决策树

标签：img   png   names   结构   解决问题   苹果   res   selection   class   

原文地址：https://www.cnblogs.com/amberwang2018/p/11354153.html