第二章 感知机感觉感知机这东西还是很简单的，随便写点。感知机（perceptron）是二分类的线性分类器。输入x表示实例的特征向量，输出y为实例的类别，由如下函数表示： 其中w为权值（weight）或权值向量（weight vector），b表示偏置（bias），sign为符号函数，里面的东西大于....
分类：
其他好文 时间：
2014-08-27 20:21:48
阅读次数：
241
第一章 统计学习方法概述1.1 统计学习 统计学习(statistical learning)是关于计算机基于数据概率模型并运用模型进行预测和分析的学科。统计学习也称为统计机器学习，现在人们提及的机器学习一般都是指统计机器学习。 统计学习的对象是数据(data)，关于数据的基本假设是同类数据具有.....
分类：
其他好文 时间：
2014-08-27 18:26:38
阅读次数：
135
AdaBoost算法 基本思想是，对于一个复杂的问题，单独用一个分类算法判断比较困难，那么我们就用一组分类器来进行综合判断，得到结果，“三个臭皮匠顶一个诸葛亮” 专业的说法， 强可学习（strongly learnable），存在一个多项式算法可以学习，并且准确率很高 弱可学习（weakly lea...
分类：
其他好文 时间：
2014-08-26 17:06:26
阅读次数：
247
监督学习（supervised learning）的任务是学习一个模型，使模型能够对任意给定的输入，对其相应的输出做出一个好的预测，计算机的基本操作就是给定一个输入产生一个输出。基本概念：输入空间、特征空间与输出空间 在监督学习中，将输入与输出所有可能取值的集合分别称为输入空间（input sp.....
分类：
其他好文 时间：
2014-08-14 01:05:47
阅读次数：
421
1. 统计学习统计学习是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科，也称统计机器学习。学习就是如果一个系统能够通过执行某个过程改进它的性能，这就是学习。统计学习的对象是数据，它从数据出发，提取数据的特征，抽象出数据的模型，发现数据中的知识，又回到对数据的分析与预测中去...
分类：
其他好文 时间：
2014-07-16 12:42:25
阅读次数：
275
支持向量机（SVM）是90年代中期发展起来的基于统计学习理论的一种机器学习方法，通过寻求结构化风险最小来提高学习机泛化能力，实现经验风险和置信范围的最小化，从而达到在统计样本量较少的情况下，亦能获得良好统计规律的目的。通俗来讲，它是一种二类分类模型，其基本模型定义为特征空间上的间隔最大的线性分类器....
分类：
其他好文 时间：
2014-07-09 23:13:30
阅读次数：
439
继续一周一次的课堂笔记 :D 昨天去晚了站着听讲，感觉好好啊，注意各种集中。想想整个教室里面就是我和老师是站着的，自豪感油然而生。
第二次课讲的东西依旧比较简单，是这本书第二章的前半部分。作为一个好久之前已经预习过的孩子，我表示万分的得意（最小二乘法难道不是三四年前就学过的？话说以后我再面人的时候，就让他推导最小二乘估计量，嘻嘻...考验一下基本功）。
------------原谅我的...
分类：
其他好文 时间：
2014-06-30 10:00:55
阅读次数：
185
前两天微博上转出来的，复旦计算机学院的吴立德吴老师在开?统计学习精要(The Elements of Statistical Learning)?这门课，还在张江...大牛的课怎能错过，果断请假去蹭课...为了减轻心理压力，还拉了一帮同事一起去听，eBay浩浩荡荡的十几人杀过去好不壮观！总感觉我们的人有超过复旦本身学生的阵势，五六十人的教室坐的满满当当，壮观啊。
这本书正好前阵子一直在看，所...
分类：
其他好文 时间：
2014-06-29 23:58:22
阅读次数：
321
照例文章第一段跑题，先附上个段子（转载的哦~）：
I hate CS people. They don't know linear algebra but want to teach projective geometry. They don't know any probability but want to use graphical models. They don't under...
分类：
其他好文 时间：
2014-06-29 22:35:13
阅读次数：
358
学习统计学习方法也已经有几天了，在这几天的时间里，我主要对分类学习方法进行了初步学习，包括：感知机——>支持向量机，K近邻法，朴素贝叶斯法，决策树，logistic
回归与最大熵模型。 其中k近邻法的实现为kd树，朴素贝叶斯通过极大似然估计实现，决策树包含有生成决策树算法ID3,C4.5，决策...
分类：
其他好文 时间：
2014-05-10 03:06:00
阅读次数：
225
