参考资料 台湾大学《机器学习技法》视频 李航《统计学习方法》 深入浅出ML之Regression家族 Logistic Regression Theory [TOC] 什么是Logistic回归 回顾一下,一般化的广义线性回归形式是: $$ g(Y)=Xw^T 或者?Y=g^{?1}(Xw^T) $ ...
分类:
其他好文 时间:
2019-01-26 22:41:49
阅读次数:
211
现在这本书已经看完70%,在看完后我将会将每一章的内容按照自己的理解并结合其他书籍包括<<统计机器学习导论>>[1] ,<<机器学习>>[2],<<大数据分析>>[3]这三本书总结经典的几大算法原理与代码实现。下面是预计的写作思路: 一、分类学习 1.SVM 2.决策树 3.Logistic 回归 ...
分类:
其他好文 时间:
2019-01-19 13:22:46
阅读次数:
300
Evernote Export 支持向量机(Support Vector Machine) 不适定问题不止一个决策边界 要找一个决策边界,不仅能将训练集很好的划分,而且提升模型的泛化能力 支持向量机直接将算法放在运行的内部,在不适定的问题中,使用svm去建模是好的 svm是统计学习中非常重要的方法 ...
分类:
其他好文 时间:
2019-01-14 18:01:40
阅读次数:
303
决策树 前言 决策树是一种基本的分类和回归算法,书中主要是讨论了分类的决策树。决策树在每一个结点分支规则是一种if then规则,即满足某种条件就继续搜索左子树,不符合就去右子树,看起来是用二叉树实现对吧,实际的CART决策树就是二叉树,等会再介绍。现在先来看看决策树的理论部分。代码地址 "http ...
分类:
其他好文 时间:
2019-01-12 12:04:19
阅读次数:
237
来自:https://mp.weixin.qq.com/s/tevVm0jlS6vZ3LCnczWD0w 前言 李航老师《统计学习方法》详细的描述了决策树的生成和剪枝。根据书的内容,做总结如下。 目录 a. 决策树不确定性的度量方法 1. 不确定性理解 下图为事件A是否发生的概率分布,事件发生记为1 ...
分类:
编程语言 时间:
2019-01-06 18:23:10
阅读次数:
175
pandas.core.base.DataError: No numeric types to aggregate错误规避 我没有去解决这个问题, 而用填充0规避了这个问题 统计 聚合 agg函数 使用这种聚合会卡到这个bug pandas.core.base.DataError: No numer ...
分类:
其他好文 时间:
2019-01-04 14:58:18
阅读次数:
1457
只有亲自用代码实现才算真正理解算法,有时候也要在不断的修改调试中理解,更何况只看不敲代码呢? 代码: 运行结果如下: ...
分类:
编程语言 时间:
2019-01-03 21:42:19
阅读次数:
159
摘自 1.李航的《统计学习方法》 2.http://www.cnblogs.com/pinard/p/6955871.html 一、概率计算问题 上一篇介绍了概率计算问题是给定了λ(A,B,π),计算一个观测序列O出现的概率,即求P(O|λ)。 用三种方法,直接计算法,前向算法,后向算法。 考虑隐马 ...
分类:
其他好文 时间:
2018-12-28 15:29:32
阅读次数:
187
决策树 一.决策树基本描述 决策树是一种基本的分类与回归方法,呈树形结构,在分类问题中,表示基于特征对实例进行分类的过程.学习时,利用训练数据根据损失函数最小化的原则建立决策树模型.预测时,对新的数据,利用决策树模型进行分类.而学习又通常包括三个步骤:特征选择,决策树生成,决策树修剪. 二.决策树模 ...
分类:
其他好文 时间:
2018-12-22 16:40:18
阅读次数:
222
转自:https://blog.csdn.net/px_528/article/details/72963977 写在前面说到Adaboost,公式与代码网上到处都有,《统计学习方法》里面有详细的公式原理,Github上面有很多实例,那么为什么还要写这篇文章呢?希望从一种更容易理解的角度,来为大家呈 ...
分类:
编程语言 时间:
2018-12-16 19:32:41
阅读次数:
230