ConvNet是一个基于GPU实现的卷积神经网络开源代码（C++11），是由多伦多大学的Geoffrey Hinton深度学习团队编写的，它的最初版本是Hinton的学生Alex Krizhevsky编写的cuda-convnet（其项目地址在google code上面），最近cuda-convnet也从1.0版本更新到2.0版本（地址）。
在CNN的开源代码中最出名的主要有两个，一个是Berkeley Caffe，另一个是Toronto Convnet。Berkeley的Caffe我目前还没有研究过它的代...
分类：
Web程序 时间：
2014-07-26 02:53:06
阅读次数：
276
一直犹豫稀疏编码怎么写，来来回回看了好几遍的UFLDL。因为这不仅是DL深度学习的重要概念，也是我这段时间一直在研究的stacked ISA 深度特征学习的支柱。
这章将主要介绍一下稀疏编码的主要概念，及主成分分析的方法。
稀疏编码算法是一种无监督（unsupervised）学习方法，它用来寻找一组“超完备”基向量来更高效地表示样本数据。（设x的维数为n，则k>n）
超完备基能更有效地找...
分类：
其他好文 时间：
2014-07-26 02:23:36
阅读次数：
614
一个月前，自己模仿caffe实现了一个卷积神经网络的框架。
一个月前，自己模仿caffe实现了一个卷积神经网络的框架。
相同点
1无缝支持CPU和GPU模式，GPU模式使用cuda实现。
不同点
1我的CNN不依赖与任何第三方的函数库，caffe用到了第三方的数学函数库（cublas和mkl）来做矩阵操作。
其实区别就在于...
分类：
其他好文 时间：
2014-07-26 02:17:46
阅读次数：
334
本文翻译自2007-To recognize shapes, first learn to generate images, Geoffrey Hinton.第五种策略的设计思想是使得高层的特征提取器能够和底层的进行通信, 同时可以很容易地使用随机二态神经元的分层网络来实现.这些神经元的激活概率是关...
分类：
其他好文 时间：
2014-07-25 16:41:21
阅读次数：
597
实现我们构造了RBM类. 网络的参数可以通过构造器或者是输入参数初始化.这样RBM可以用作构造一个深度网络, 在这种情况下, 权值矩阵和隐层偏置是和一个MLP网络的sigmoidal层共享的.写好构造函数, 对一些参数的默认值进行设置, 并完成一系列的初始化权值初始化成均匀分布偏置初始化成0定义与(...
分类：
其他好文 时间：
2014-07-23 16:49:11
阅读次数：
455
基于能量的模型(EBM)基于能量的模型将每一个我们感兴趣的变量构造联系到一个标量能量上. 学习就是修改能量方程从而使得它的外形有我们需要的特点. 举例来说, 我们希望的是: 期望构造的能量低. 基于能量的概率性模型定义了一个概率分布, 它是由能量方程决定的:归一化因子Z被称为配分函数, 类比于物理系...
分类：
其他好文 时间：
2014-07-23 15:47:59
阅读次数：
382
2014-07-2110:28:34首先PO上主要Python代码(2.7), 这个代码在Deep Learning上可以找到. 1 # allocate symbolic variables for the data 2 index = T.lscalar() # index to...
分类：
编程语言 时间：
2014-07-22 00:29:38
阅读次数：
352
上图上真相，看看Berkeley Caffe和Toronto Convnet的分类效果对比吧。
以Toronto网站的10张图为例，比较下他们各自的分类准确度和置信度！...
分类：
Web程序 时间：
2014-07-21 22:26:38
阅读次数：
279
学习方式根据数据类型的不同，对一个问题的建模有不同的方式。在机器学习或者人工智能领域，人们首先会考虑算法的学习方式。在机器学习领域，有几种主要的学习方式。将算法按照学习方式分类是一个不错的想法，这样可以让人们在建模和算法选择的时候考虑能根据输入数据来选择最合适的算法来获得最好的结果。监督式学习：在监...
分类：
其他好文 时间：
2014-07-21 08:08:39
阅读次数：
327
学习是一个坚持的过程，很多时候自己把握了很多很好的方向，11年底知道了PCL库的时候，国内还没有多少人关注的时候，自己已经去关注，没有坚持下去，现在已经是继OpenCV在计算机视觉中另外一个非常出色的计算机视觉库。 12年的时候看到深度学习的时候知道这个会很火，自己也去学习，可以从我之前的bolg就...
分类：
其他好文 时间：
2014-07-20 09:36:31
阅读次数：
223
