感知机:这是最简单的一个机器学习算法,不过有几点还是要注意一下。 首先是损失函数的选取,还有为了使损失函数最小,迭代过程采用的梯度下降法,最后得到最优的w,b 直观解释就是,调整w,b的值,使分离超平面向误分类点移动,以减小误分点与超平面的距离,直至超平面 ...
分类:
编程语言 时间:
2015-05-05 10:24:34
阅读次数:
135
首先定义几个符号:Xivector[X]:input dataYivector[Y]:output datah(X)hypothesis function对于输入的数据给出预测值Y is continous variation?regression problem(回归问题)Y is discret...
分类:
编程语言 时间:
2015-05-04 01:15:00
阅读次数:
270
1.感知机:二类分类的线性模型,输入为实例的特征向量,输出为某类别,取+1和-1.目的在求出将训练数据进行线性划分的分离超平面,导入基于误分类的损失函数,利用梯度下降法对损失函数进行极小化求得感知机模型。2.感知机模型: ,sign为符号函数,w为权值或权向量,b为偏置。 其几何解释:对应一个越.....
分类:
其他好文 时间:
2015-04-29 23:04:34
阅读次数:
186
OpenCV_图像梯度化
#include "stdafx.h"
#include "cv.h"
#include "cxcore.h"
#include "highgui.h"
using namespace std;
using namespace cv;
int main(int argc, char **argv)
{
CvPoint center;//定义一个二维坐标的点
do...
分类:
其他好文 时间:
2015-04-29 19:54:09
阅读次数:
180
在大致了解了机器学习的算法分类(监督式、非监督式以及增强学习)和梯度算法后,今天我们来了解下拟合度和最大似然估计的相关问题。一、最小二乘法的拟合度
监督式学习中一类典型的应用就是回归问题,基本的就是线性回归,即用一条直线去逼近训练集合。最小二乘法就是根据已..
分类:
其他好文 时间:
2015-04-28 00:14:45
阅读次数:
181
Histogram of Oriented Gridients,缩写为HOG,是目前计算机视觉、模式识别领域很常用的一种描述图像局部纹理的特征。这个特征名字起的也很直白,就是说先计算图片某一区域中不同方向上梯度的值,然后进行累积,得到直方图,这个直方图呢,就可以代表这块区域了,也就是作为特征,可以输...
分类:
其他好文 时间:
2015-04-25 13:29:48
阅读次数:
150
Logistic回归的理论内容上篇文章已经讲述过,在求解参数时可以用牛顿迭代,可以发现这种方法貌似太复杂,今天我们介绍另一种方法,叫梯度下降。当然求最小值就是梯度下降,而求最大值相对就是梯度上升。由于,如果,那么得到现在我们要找一组,使得所有的最接近,设现在我们要找一组,使得最小。这就是今天要介绍的...
分类:
编程语言 时间:
2015-04-25 11:56:04
阅读次数:
253
此处仅给出代码实现,具体原理及过程请看前面的博文
注:本测试题本机测试通过,但不知为何在OJ上老是出现运行时错误提示,有大神看出问题请指教~~
测试文件输入格式如下:
2 10 0.01 10
2104 3 399900
1600 3 329900
2400 3 369000
1416 2 232000
3000 4 539900
1985 4 299900
1534 3 31490...
分类:
编程语言 时间:
2015-04-24 16:23:04
阅读次数:
150
欢迎转载,转载请注明:本文出自Bin的专栏blog.csdn.net/xbinworld。
技术交流QQ群:433250724,欢迎对算法、技术、应用感兴趣的同学加入。
本篇重点讲一下RBM模型求解方法,其实用的依然是梯度上升方法,但是求解的方法需要用到随机采样的方法,常见的有:Gibbs Sampling和对比散度(contrastive divergence, CD)算法。
RBM...
分类:
其他好文 时间:
2015-04-23 00:04:29
阅读次数:
665
梯度下降法[编辑] (重定向自最速下降法) 梯度下降法是一个最优化算法,通常也称为最速下降法。
分类:
其他好文 时间:
2015-04-20 22:22:50
阅读次数:
211