一、疑问 二、知识点 1. 损失函数可视化 ? 损失函数一般都是定义在高维度的空间中，这样要将其可视化就很困难。然而办法还是有的，在1个维度或者2个维度的方向上对高维空间进行切片，例如，随机生成一个权重矩阵 ，该矩阵就与高维空间中的一个点对应。然后沿着某个维度方向前进的同时记录损失函数值的变化。换句 ...
分类：
其他好文 时间：
2018-04-03 12:51:40
阅读次数：
248
三、BP神经网络 1、神经网络模型 首先介绍三层神经网络，如下图 输入层（input layer）有三个units（为补上的bias，通常设为1） 表示第j层的第i个激励，也称为单元unit 为第j层到第j+1层映射的权重矩阵，就是每条边的权重 所以可以得到： 隐含层： 输出层： 其中，S型函数，也 ...
分类：
编程语言 时间：
2017-12-17 15:02:02
阅读次数：
246
一. 引入NMS 在R-CNN中对于2000多个region proposals得到特征向量（4096维）后，输入到SVM中进行打分（score）。除了背景以外VOC数据集共有20类。那么2000*4096维特征矩阵与20个SVM组成的权重矩阵4096*20相乘得到结果为2000*20维矩阵。这个矩 ...
分类：
其他好文 时间：
2017-12-14 23:59:56
阅读次数：
530
1.原理发现写关于非负矩阵的博文还是蛮多的，还是以自己的角度总结一下自己的最近看的若干东西以及对非负矩阵分解有用的一些资料链接。NMF，全称为non-negative matrix factorization，中文呢为“非负矩阵分解”。NMF的思想：V=WH（W权重矩阵、H特征矩阵、V原矩阵），通过计算从原矩阵提取权重和特征两个不同的矩阵出来。属于一个无监督学习的算法，其中限制条件就是W和H中的所有...
分类：
其他好文 时间：
2016-07-15 21:47:00
阅读次数：
825
在进行空间统计实验过程中，经常涉及到空间权重矩阵的处理，有时候需要将ArcGIS生成的swm格式的权重矩阵转换为形如“0 1”的方阵格式。这里将我的办法整理出来。 1.用如下工具箱生成swm格式的权重矩阵 2.将swm格式的权重矩阵转换为dbf属性表 3.用excel打开dbf将其转换为txt文本文
分类：
其他好文 时间：
2016-03-04 13:06:16
阅读次数：
443
我们先玩玩单层的神经网络，我们把图像切割成8*8的区域，灰度化，成为64维的输入数据，$x=(x_{1},\cdots,x_{64})^T$，我们的单层神经网络有8个节点，即权重矩阵为一个$64\times 8$的矩阵$W$，而输出$a=f(W^Tx+b)$。以上是编码过程，下面讨论解码过程，上面所...
分类：
其他好文 时间：
2015-09-08 00:24:18
阅读次数：
172
其源码在opencv的cvboost.cpp文件之中，具体内容和部分注释如下所示：
/*
*cvTrimWeights
*作用：对小于一定阈值的权重剔除，因为权重较小的样本对训练结果影响很小，剔除后，这样在训练样本时可以缩短训练时间
*/
CV_BOOST_IMPL
CvMat* cvTrimWeights( CvMat* weights,//训练样本的权重矩阵
...
分类：
其他好文 时间：
2015-07-10 16:42:21
阅读次数：
149
今天把蒙皮模拟算法实现了。具体方法是加载此前算出的权重矩阵，每个内部点都是表面点的加权平均。于是求解的时候唯一的未知数就是参数p了。这次牛顿法能够模拟，但是同之前不带权重的模拟算法一样，模拟过程中无法收敛到全局极值点。出问题的是这根棒。控制这根棒的参数有两个，一个是弯曲大小，另一个是弯曲方向。当强制...
分类：
其他好文 时间：
2015-02-04 20:09:53
阅读次数：
192
Stanford机器学习课程笔记——神经网络的表示
1. 为什么要引入神经网络
其实这个问题等价与神经网络和之前的回归模型有什么区别，如果你没有学过其他机器学习算法的话。这个问题可以通过一个例子来说明：如果样本都是60*60的图像，那么每个样本的特征维数都是3600个，使用前面讲的线性回归模型，那么需要建立的参数个数就有3600的；如果是非线性回归模型，还要考虑高次项...
分类：
其他好文 时间：
2015-01-28 11:10:41
阅读次数：
222
最近在看RCNN和微软的SPP-net，其中涉及到Non-Maximum Suppression，论文中没具体展开，我就研究下了代码，这里做一个简单的总结。
假设从一个图像中得到了2000region proposals，通过在RCNN和SPP-net之后我们会得到2000*4096的一个特征矩阵，然后通过N的SVM来判断每一个region属于N的类的scores。其中，SVM的权重矩阵...
分类：
其他好文 时间：
2015-01-24 16:02:57
阅读次数：
184
