一直犹豫稀疏编码怎么写,来来回回看了好几遍的UFLDL。因为这不仅是DL深度学习的重要概念,也是我这段时间一直在研究的stacked ISA 深度特征学习的支柱。
这章将主要介绍一下稀疏编码的主要概念,及主成分分析的方法。
稀疏编码算法是一种无监督(unsupervised)学习方法,它用来寻找一组“超完备”基向量来更高效地表示样本数据。(设x的维数为n,则k>n)
超完备基能更有效地找...
分类:
其他好文 时间:
2014-07-26 02:23:36
阅读次数:
614
一个月前,自己模仿caffe实现了一个卷积神经网络的框架。
一个月前,自己模仿caffe实现了一个卷积神经网络的框架。
相同点
1无缝支持CPU和GPU模式,GPU模式使用cuda实现。
不同点
1我的CNN不依赖与任何第三方的函数库,caffe用到了第三方的数学函数库(cublas和mkl)来做矩阵操作。
其实区别就在于...
分类:
其他好文 时间:
2014-07-26 02:17:46
阅读次数:
334
2014-07-2110:28:34首先PO上主要Python代码(2.7), 这个代码在Deep Learning上可以找到. 1 # allocate symbolic variables for the data 2 index = T.lscalar() # index to...
分类:
编程语言 时间:
2014-07-22 00:29:38
阅读次数:
352
具体原理参考如下讲义:1、神经网络2、反向传导3、梯度检验与高级优化看完材料1和2就可以梳理清楚bp神经网络的基本工作原理,下面通过一个C语言实现的程序来练习这个算法 1 //Backpropagation, 25x25x8 units, binary sigmoid function netwo....
分类:
其他好文 时间:
2014-07-14 14:59:37
阅读次数:
367
不少读者看了我前面两篇文章
总结一下用caffe跑图片数据的研究流程
deep learning实践经验总结2--准确率再次提升,到达0.8,再来总结一下
之后,想知道我是怎么实现特征可视化的。...
分类:
其他好文 时间:
2014-07-10 17:32:20
阅读次数:
302
一般deep learning需要两步, unsupervised pre-train 和 superviesed NN training. Pre-training 用unsupervised方法train神经网络,得到word representation. 在第二步 supervised NN...
分类:
其他好文 时间:
2014-07-02 20:20:34
阅读次数:
307
浅谈深度学习(Deep Learning)的基本思想和方法
分类:
其他好文 时间:
2014-06-30 15:08:43
阅读次数:
159
群号335862447,欢迎广大喜欢dota的程序员加入,哈哈,当然,非程序员也欢迎啊。...
分类:
其他好文 时间:
2014-06-26 14:29:06
阅读次数:
125
// Copyright 2013 Yangqing Jia
//
#include
#include
#include "caffe/layer.hpp"
#include "caffe/vision_layers.hpp"
#include "caffe/util/math_functions.hpp"
using std::max;
namespace caffe {
/**...
分类:
其他好文 时间:
2014-06-24 19:34:27
阅读次数:
347
deep learning实践经验总结
最近拿caffe来做图片分类,遇到不少问题,同时也吸取不少教训和获得不少经验。...
分类:
其他好文 时间:
2014-06-22 20:16:47
阅读次数:
212