码迷,mamicode.com
首页 > 其他好文 > 详细

统计学习方法李航学习笔记

时间:2018-03-27 12:30:41      阅读:143      评论:0      收藏:0      [点我收藏+]

标签:基本   最小   决策树   能力   原则   nbsp   post   概率   建立   

一、决策树

1、决策树是一种基本的分类与回归方法,本文主要讨轮用于分类的决策树,决策树模型呈现树形结构,在分类问题中,表示基于特征对实例进行分类的过程,

学习时,利用训练数据,根据损失函数最小化的原则建立决策树模型

预测时,对新的数据,利用决策树模型进行分类,

决策树学习通常分为3个步骤:特征选择、决策树的生成和决策树的修剪,

2、特征选择:

特征选择在于选取对训练数据具有分类能力的特征,这样可以提高决策树学习的效率,

选择的准则是信息增益或信息增益比

信息熵:

经验熵:类别/D 

 

 

二、条件随机场

  条件随机场(CRF)是给定一组输入随机变量条件下,另一组随机变量的条件概率分布模型,其特点是假设输出随机变量构成马尔科夫随机场,条件随机场可以用于不同的预测问题,下面主要讨论在标注问题的应用

  字面理解:随机场,是指随机变量,条件,是指在给定一组输入随机变量作为条件,输出变量的条件概率分布模型

统计学习方法李航学习笔记

标签:基本   最小   决策树   能力   原则   nbsp   post   概率   建立   

原文地址:https://www.cnblogs.com/lxw003/p/8656479.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!