理论和公式请看网易公开课中Andrew Ng的机器学习，或者coursera中Andrew Ng的机器学习对于多元线性回归要拟合最好的直线，要使得误差平方和最小，课本上的方法都是求偏导，并使其为0，然后求解线性方程组。但是还有很多其他方法可以达到上述效果，Andrew在大样本和小样本的情况下给出了两...
分类：
其他好文 时间：
2015-01-06 19:59:23
阅读次数：
746
以下都是图片（由于在有道笔记本上做的编辑，所以复制拷贝之后发现有问题，所以用图片来做展示）
................中间省略一下输出..........................
分类：
其他好文 时间：
2014-12-30 17:07:09
阅读次数：
176
基于梯度金字塔(GradientPyramid,GP)分解的图像融合算法。GP也是一种基于高斯金字塔的多尺度分解算法。通过对高斯金字塔每层图像进行梯度算子运算，便可获得图像的GP表示。GP每层分解图像都包含水平、垂直和两个对角线四个方向的细节信息，能更好地提取出图像的边缘信息，提高了稳定性和抗噪.....
分类：
其他好文 时间：
2014-12-30 14:54:03
阅读次数：
248
一直以为梯度下降很简单的，结果最近发现我写的一个梯度下降特别慢，后来终于找到原因：step size的选择很关键，有一种叫backtracking line search的梯度下降法就非常高效，该算法描述见下图：下面用一个简单的例子来展示，给一个无约束优化问题：minimize y = (x-3)*...
分类：
其他好文 时间：
2014-12-30 01:40:15
阅读次数：
664
参考博客 Liam Q博客 和李航的《统计学习方法》感知机学习旨在求出将训练数据集进行线性划分的分类超平面，为此，导入了基于误分类的损失函数，然后利用梯度下降法对损失函数进行极小化，从而求出感知机模型。感知机模型是神经网络和支持向量机的基础。下面分别从感知机学习的模型、策略和算法三个方面来介绍。1....
分类：
编程语言 时间：
2014-12-25 21:57:06
阅读次数：
252
网上去找关于HOG的资料，发现理解性的较少，并且较为冗长，为方便大家理解便自己写了篇，希望能对奋斗在特征提取第一线的同志们有所帮助：HOG即histogram of oriented gradient, 是用于目标检測的特征描写叙述子，该技术将图像局部出现的方向梯度次数进行计数，该方法和边缘方向直方...
分类：
其他好文 时间：
2014-12-25 11:14:05
阅读次数：
145
学习DIP第11天
形态学
数学形态学（Mathematical morphology）是一门建立在格论和拓扑学基础之上的图像分析学科，是数学形态学图像处理的基本理论。其基本的运算包括：二值腐蚀和膨胀 (形态学)、二值开闭运算、骨架抽取、极限腐蚀、击中击不中变换、形态学梯度、Top-hat变换、颗粒分析、流域变换、灰值腐蚀和膨胀、灰值开闭运算、灰值形态学梯度等。
由于二值图像...
分类：
其他好文 时间：
2014-12-24 18:09:46
阅读次数：
165
学习排序算法（二）：Pairwise方法之RankNet
前面一篇博文介绍的Ranking SVM是把LTR问题转化为二值分类问题，而RankNet算法是从另外一个角度来解决，那就是概率的角度。
1. RankNet的基本思想
RankNet方法就是使用交叉熵作为损失函数，学习出一些模型（例如神经网络、决策树等）来计算每个pair的排序得分，学习模型的过程可以使用梯度下降法。...
分类：
编程语言 时间：
2014-12-24 16:21:32
阅读次数：
1832
