回顾我大学自己课外读过的一些书 学习书籍(机器学习与自然语言处理之路): 《机器学习实战》 《机器学习》 (南大周志华博士) 《统计学习方法》 (李航博士) 《数学之美》 (吴军博士) 《python数据可视化》 《利用python进行数据分析》 课外书: 《追风筝的人》 《麦田的守望者》 《丰乳肥 ...
分类:
其他好文 时间:
2016-11-20 18:59:10
阅读次数:
169
运用对偶的(对应原始)感知机算法实现线性分类。 参考书目:《统计学习方法》(李航) 算法原理: 代码实现: 环境:win7 32bit + Anaconda3 +spyder 和原始算法的实现基本框架是类似的,只是判断和权值的更新算法有点变化。 输出: ...
分类:
编程语言 时间:
2016-11-18 18:17:18
阅读次数:
334
第一件事是,我们的“学习小组”最近先后邀请了信息学院和经管学院的同学来参加,来汇报或是作为观众来谈谈对问题的看法,如果你是个善于聆听、思考的人,你会感受到去理解、阐述同一件事,不同背景人从不同角度出发思路的确有所不同,这是一件好玩的事。 第二件事是,最近选修了信息学院的《机器学习》课程,教课的老师是 ...
分类:
其他好文 时间:
2016-11-18 12:20:39
阅读次数:
165
运用最简单的原始(对应的有对偶)感知机算法实现线性分类。 参考书目:《统计学习方法》(李航) 算法原理: 踩到的坑:以为误分类的数据只使用一次,造成分类结果很差,在train函数内加个简单的递归,解决问题;不同的学习率结果差别很大,通过循环学习率取最优解决。 AND:个人理解尚浅,理论和代码都未免有 ...
分类:
编程语言 时间:
2016-11-16 02:06:08
阅读次数:
327
1 将决策树看作条件概率分布 决策树可表示为给定特征条件下类的条件概率分布。即,将特征空间划分为互不相交的单元,每个单元对应于决策树中一条从根节点到叶节点的路径。每个单元对应一个条件概率分布。一个好的决策树在叶节点上的条件概率(即一个单元内的条件概率)应该偏向某个类,即保证叶子节点内的数据的熵很小。 ...
分类:
其他好文 时间:
2016-11-10 03:08:44
阅读次数:
220
1.1 SVM 概念 支持向量机SVM是一种原创性(非组合)的具有明显直观几何意义的分类算法,具有较高的准确率。源于Vapnik和Chervonenkis关于统计学习的早期工作(1971年),第一篇有关论文由Boser、Guyon、Vapnik发表在1992年。思想直观,但细节异常复杂,内容涉及凸分 ...
分类:
其他好文 时间:
2016-11-07 01:00:56
阅读次数:
251
感知机:二类分类线性分类模型,输入是具体的输入(实例)的特征向量,输出是具体输入(实例)的类别,+1或-1 目的:求出将训练数据进行线性划分的超平面 我们同统计学习的三要素来学习感知机,首先,我们先来学习模型 1.感知机模型 具体介绍如下: 对感知机模型有了一定的了解之后,就要开始学习感知机学习策略 ...
分类:
其他好文 时间:
2016-11-06 13:58:05
阅读次数:
206
1.统计学习
统计学习是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科,也称统计机器学习。统计学习是数据驱动的学科。统计学习是一门概率论、统计学、信息论、...
分类:
其他好文 时间:
2016-10-31 22:20:38
阅读次数:
380
本文主要说明SVM中用到的超平面方程是怎么来的,以及各个符号的物理意义,怎么算空间上某点到该平面的距离。 ...
分类:
其他好文 时间:
2016-10-30 00:47:28
阅读次数:
5595
在整理旧电脑时,才发现13年下半年电脑里有不少残文。老师说,东西搁下了再拿起来花费的时间和之前可能差不多。我一眼看过去这篇关于分布式计算的文章,貌似还真的没有了当时理解的深度和感觉。当时还想利用ADMM算法,把统计中常见的带惩罚的高维问题在此框架下用R重写一下,但是中途多种事情一耽搁,就早已抛之脑后 ...
分类:
编程语言 时间:
2016-10-14 22:50:26
阅读次数:
358