数学基础（2节课）微积分极限，e，导数，微分，积分偏导数，方向导数，梯度极值，多元函数极值，多元函数泰勒展开无约束优化，约束优化拉格朗日乘子，对偶问题线性代数矩阵，行列式，初等变换线性相关，线性无关秩，特征值，特征向量正交向量、正交矩阵矩阵分解概率随机变量，概率密度函数，分布函数条件概率，全概率公式...
分类：
其他好文 时间：
2014-10-30 10:16:09
阅读次数：
185
最近学习了一种叫做 Factorization Machines（简称 FM）的通用算法，它可对任意的实值向量进行预测。其主要优点包括: 1) 可用于高度稀疏数据场景; 2) 具有线性的计算复杂度。本文将对 FM 框架进行简单介绍，并对其训练算法 — 随机梯度下降（SGD）法和交替最小二乘（ALS）法进行详细推导。...
分类：
编程语言 时间：
2014-10-28 12:23:27
阅读次数：
342
最近学习了一种叫做 Factorization Machines（简称 FM）的通用算法，它可对任意的实值向量进行预测。其主要优点包括: 1) 可用于高度稀疏数据场景; 2) 具有线性的计算复杂度。本文将对 FM 框架进行简单介绍，并对其训练算法 — 随机梯度下降（SGD）法和交替最小二乘（ALS）法进行详细推导。...
分类：
系统相关 时间：
2014-10-28 12:22:05
阅读次数：
335
最近学习了一种叫做 Factorization Machines（简称 FM）的通用算法，它可对任意的实值向量进行预测。其主要优点包括: 1) 可用于高度稀疏数据场景; 2) 具有线性的计算复杂度。本文将对 FM 框架进行简单介绍，并对其训练算法 — 随机梯度下降（SGD） 法和交替最小二乘法（ALS）法进行详细推导。...
分类：
系统相关 时间：
2014-10-28 12:21:35
阅读次数：
333
最近学习了一种叫做 Factorization Machines（简称 FM）的通用算法，它可对任意的实值向量进行预测。其主要优点包括: 1) 可用于高度稀疏数据场景; 2) 具有线性的计算复杂度。本文将对 FM 框架进行简单介绍，并对其训练算法 — 随机梯度下降（SGD）法和交替最小二乘（ALS）法进行详细推导。...
分类：
系统相关 时间：
2014-10-28 12:21:25
阅读次数：
371
机器学习实战中也详细描述了梯度上升算法，附件里是一些笔记，再贴一个还不错的帖子转http://blog.csdn.net/wyb_009/article/details/9205151这个算法搞得 我晚上十点打电话给弟弟，问Ln(x)，1/x的导数公式。很惭愧，大学时被我用的出神入化、化成灰我都能认...
分类：
编程语言 时间：
2014-10-24 10:24:57
阅读次数：
894
SiftDescriptorExtractor对应于SIFT算法中特征向量提取的工作，通过他对关键点周围邻域内的像素分块进行梯度运算，得到128维的特征向量。具体有如下几个操作：0、首先，我们假设在之前关键点提取的步骤中，我们对一个三角形提取关键点，检测到其中一个关键点的坐标为三角形的一个角（如下面...
分类：
其他好文 时间：
2014-10-23 14:15:45
阅读次数：
191
函数在点的梯度就被定义为向量：与射线同方向的单位向量被定义为：于是方向导数变成了：函数在某点的梯度是这样一个向量，它的方向与取得最大方向导数的方向一致，而它的模为方向导数的最大值。
分类：
其他好文 时间：
2014-10-22 12:46:29
阅读次数：
149
在logistic方法中，g(z)会生成[0,1]之间的小数，但如何是g(z)只生成0或1？所以，感知器算法将g(z)定义如下：同样令，和logistic回归的梯度上升算法类似，学习规则如下：尽管看起来和之前的学习算法类似，但感知器算法是一种非常简便的学习算法，临界值和输出只能是0或1，是比logi...
分类：
编程语言 时间：
2014-10-19 18:19:15
阅读次数：
240
昨天学习完了Ng的第二课，总结如下：过拟合；欠拟合；参数学习算法；非参数学习算法局部加权回归KD tree最小二乘中心极限定律感知器算法sigmod函数梯度下降/梯度上升二元分类logistic回归
分类：
其他好文 时间：
2014-10-19 17:03:42
阅读次数：
302
