以下内容转载自http://www.duzelong.com/wordpress/具体：概述：http://www.duzelong.com/wordpress/201507/archives1108/ 步长：http://www.duzelong.com/wordpress/201507/ar.....
分类：
其他好文 时间：
2015-07-29 15:52:21
阅读次数：
100
【多变量线性回归模型】多变量线性回归是指输入为多维特征的情况，例如：
在上图中可看出房子的价格price由四个变量(size、number of bedrooms、number of floors 、age of home)决定，为了能够预测给定条件（四个变量）下的房子的价格（y），我们需要建立相应的线性回归模型。假设有n个变量，则相应的多变量线性回归模型如下：注意上图中的x是指一个训练样本，即每...
分类：
其他好文 时间：
2015-07-23 23:50:38
阅读次数：
337
摘自知乎：其实, 在计算量方面, 两者有很大的不同, 因而在面对给定的问题时, 可以有选择性的根据问题的性质选择两种方法中的一个.具体来说, 最小二乘法的矩阵公式是, 这里的 A 是一个矩阵, b 是一个向量. 如果有离散数据点,, 而想要拟合的方程又大致形如, 那么, A 就是一个的矩阵, 第 i...
分类：
其他好文 时间：
2015-07-22 22:36:17
阅读次数：
128
前言最近在看斯坦福的《机器学习》的公开课，这个课程是2009年的，有点老了，不过讲的还是很好的，廓清了一些我以前关于机器学习懵懂的地方。我的一位老师曾经说过:什么叫理解？理解就是你能把同一个事情用自己的语言表达出来，并且能让别人听得懂。本着这样的原则，同时也为了证明自己是”理解”的，于是决定打算在学...
分类：
其他好文 时间：
2015-07-22 06:53:16
阅读次数：
199
感知机(perceptron)是二类分类的线性分类模型，其输入为实例的特征向量，输出为实例的类别，取+1和-1二值。感知机对应于输入空间(特征空间)中将实例划分为正负两类的分离超平面，属于判别模型。感知机旨在求出将训练数据进行线性划分的分离超平面。为此，导入基于误分类的损失函数，利用梯度下降法对损失...
分类：
其他好文 时间：
2015-07-22 06:47:05
阅读次数：
178
机器学习中的数学(1)-回归(regression)、梯度下降(gradient descent)版权声明： 本文由LeftNotEasy所有，发布于http://leftnoteasy.cnblogs.com。如果转载，请注明出处，在未经作者同意下将本文用于商业用途，将追究其法律责任。前言: 上次...
分类：
其他好文 时间：
2015-07-21 21:56:54
阅读次数：
116
应该是去年的这个时候，我开始接触机器学习的相关知识，当时的入门书籍是《数据挖掘导论》。囫囵吞枣般看完了各个知名的分类器：决策树、朴素贝叶斯、SVM、神经网络、随机森林等等；另外较为认真地复习了统计学，学习了线性回归，也得以通过orange、spss、R做一些分类预测工作。可是对外说自己是搞机器学习的...
分类：
编程语言 时间：
2015-07-16 16:18:12
阅读次数：
461
Martin A. Zinkevich 等人（Yahoo。Lab）合作的论文 Parallelized Stochastic Gradient Descent 中给出了一种适合于 MapReduce 的并行随机梯度下降法，并给出了对应的收敛性分析。这里忽略理论部分。依据自己的理解给...
分类：
其他好文 时间：
2015-07-13 13:35:01
阅读次数：
185
原文：http://zhouyichu.com/machine-learning/Gradient-Descent.html前言最近在看斯坦福的《机器学习》的公开课，这个课程是2009年的，有点老了，不过讲的还是很好的，廓清了一些我以前关于机器学习懵懂的地方。我的一位老师曾经说过:什么叫理解？理解就...
分类：
其他好文 时间：
2015-07-12 18:47:12
阅读次数：
135
原文：http://www.zhihu.com/question/20822481相同1.本质相同：两种方法都是在给定已知数据（independent & dependent variables）的前提下对dependent variables算出出一个一般性的估值函数。然后对给定新数据的depen...
分类：
其他好文 时间：
2015-07-12 01:37:05
阅读次数：
219
