Dataset
本文的数据集pga.csv包含了职业高尔夫球手的发球统计信息，包含两个属性：accuracy 和 distance。accuracy 精确度描述了命中球道（ fairways hit）的比例，Distances 描述的是发球的平均距离。我们的目的是用距离来预测命中率。在高尔夫中，一个人发球越远，那么精度会越低。对于很多机器学习算法来说，输入数据会先进行一些预处理，比如规范化，因为...
分类：
其他好文 时间：
2016-04-26 20:02:52
阅读次数：
234
1.数学 2.机器学习 Java 机器学习 工具 & 库 1.处理小数据效果好 2.深度学习—大数据，超过500w；图像，语言方面效果奇好 SVD 最小二乘法 梯度下降法 局部加权回归 1.最大似然估计 2.logistic回归 3.感知器的初步—logistic的简化情节 牛顿法 1.介绍了牛顿方 ...
分类：
其他好文 时间：
2016-04-23 11:53:53
阅读次数：
699
梯度下降法（gradient descent）：是求解无约束最优化问题的一种常用的方法。是一种迭代算法。 输入： 目标函数f(x)， 梯度函数g(x) = ▽f(x) , 计算精度 ε； 输出： f(x) 的极小点x*。 （1） 取初始值x(k) 属于Rn，置k= 0 （2） 计算f(x(k) ) ...
分类：
其他好文 时间：
2016-04-23 11:50:52
阅读次数：
206
形式 h(x)=∑i=0nθixi=θTxh(x)=\sum_{i=0}^n\theta_ix_i=\theta^Tx代价函数:J(θ)=12∑i=1m(h(x(i)θ)?y(i))2J(\theta)=\frac{1}{2}\sum_{i=1}^m(h(x_\theta^{(i)})-y^{(i)})^2
LMS(Least Mean Squares)算法参数更新原则
梯度下降法，参数沿着使代价...
分类：
编程语言 时间：
2016-04-22 19:27:11
阅读次数：
143
逻辑回归(logistic-regression)之梯度下降法详解
逻辑回归常用于预测疾病发生的概率，例如因变量是是否恶性肿瘤，自变量是肿瘤的大小、位置、硬度、患者性别、年龄、职业等等（很多文章里举了这个例子，但现代医学发达，可以通过病理检查，即获取标本放到显微镜下观察是否恶变来判断）；广告界中也常用于预测点击率或者转化率(cvr/ctr)，例如因变量是是否点击，自变量是物料的长、宽、广告的位置...
分类：
其他好文 时间：
2016-04-19 19:58:03
阅读次数：
1139
在《机器学习笔记01》中已经讲了关于单变量的线性回归以及梯度下降法。今天这篇文章作为之前的扩展，讨论多变量（特征）的线性回归问题、多变量梯度下降、Normal equation（矩阵方程法），以及其中需要注意的问题。单元线性回归首先来回顾一下单变量线性回归的假设函数:
Size(feet2feet^2)
Price($\$1000) 2104
460
1416
232
15...
分类：
其他好文 时间：
2016-04-17 06:55:22
阅读次数：
724
梯度下降和拟牛顿 作者：樱花猪 <!--more--> 摘要： 本文为七月算法（julyedu.com）12月机器学习第六次次课在线笔记。本节课主要介绍了一种在机器学习需要经常使用到的计算方法——梯度下降法并在最后提出了另一种下降法的思路——拟牛顿法。梯度下降法是一个连接理论和计算机计算的桥梁，这种 ...
分类：
其他好文 时间：
2016-04-08 11:59:29
阅读次数：
534
第2章 感知机
感知机(perceptron)是二类分类的线性分类模型，其输入为实例的特征向量，输出为实例的类别，取+1和-1二值。感知机对应于输入空间(特征空间)中将实例划分为正负两类的分离超平面，属于判别模型。
感知机学习旨在求出将训练数据进行线性划分的分离超平面，为此，导入基于误分类的损失函数，利用梯度
下降法对损失函数进行极小化求得感知机模型。
2.1 感知机模型
定义(感知...
分类：
其他好文 时间：
2016-03-30 13:16:48
阅读次数：
193
一、卷积神经网络模型知识要点卷积卷积
1、卷积
2、池化
3、全连接
4、梯度下降法
5、softmax
本次就是用最简单的方法给大家讲解这些概念，因为具体的各种论文网上都有，连推导都有，所以本文主要就是给大家做个铺垫，如有错误请指正，相互学习共同进步。
二、卷积神经网络讲解
2.1卷积神经网络作用
大家应该知...
分类：
其他好文 时间：
2016-03-28 02:18:07
阅读次数：
2281
