Deep learning:二十六(Sparse coding简单理解) Sparse coding: 本节将简单介绍下sparse coding(稀疏编码),因为sparse coding也是deep learning中一个重要的分支,同样能够提取出数据集很好的特征。本文的内容是参考斯坦福de.....
分类:
其他好文 时间:
2014-10-30 22:31:42
阅读次数:
644
序: 今天刚听了一个关于 Extreme Learning Machine (超限学习机)的讲座,讲员就是ELM的提出者 黄广斌 教授
。ELM的效果自然是比SVM,BP 算法优异很多。并且相对比 当下最火的 Deep Learning, 其有很大的优势: 运算速度非常快,准确率高,能Online Sequential Learning。
算法还没仔细研究,先上图吧。
正文:
...
分类:
系统相关 时间:
2014-10-21 15:27:59
阅读次数:
178
Deep Learning for Natural Language Processing (without Magic)http://nlp.stanford.edu/courses/NAACL2013/Deep Learning in NLP (一)词向量和语言模型http://licstar....
分类:
其他好文 时间:
2014-10-20 13:04:25
阅读次数:
152
线性代数是数学的一个重要分支,经常被应用到工程问题中,要理解深度学习以及操作深度学习,那么对于线性代数深刻的理解是非常重要的,以下摘要是我从DL book的第二章线性代数中抽取出来的比较有意思的一些理解基础线代问题的另一种有趣的方法。
2.3 Identity and inverse matrices
在线性方程组的求解当中,Identity和inverse matrice有很重要的作...
分类:
其他好文 时间:
2014-10-10 23:23:14
阅读次数:
280
本文笔记旨在概括地讲deep learning的经典应用。内容太大,分三块。
1. 回顾 deep learning在图像上的经典应用
1.1 Autoencoder
1.2 MLP
1.3 CNN
2. deep learning处理语音等时序信号
2.1 对什么时序信号解决什么问题
2.2 准备知识
2.2.1 Hidden Markov Model(HMM)
2.2.2 GMM-HMM for Speec...
分类:
其他好文 时间:
2014-10-10 11:21:04
阅读次数:
368
RNN(recurrent neural network)是神经网络的一种,主要用于时序数据的分析,预测,分类等。
RNN的general介绍请见下一篇文章《Deep learning From Image to Sequence》。本文针对对deep learning有一点基础(神经网络基本training原理,RBM结构及原理,简单时序模型)的小伙伴讲一下Bengio一个工作(RNNRBM)的原理和实现。
本文重点内容:针对RNN(recurrent neural network)一个应用:musi...
分类:
其他好文 时间:
2014-10-04 23:04:27
阅读次数:
298
这篇论文是今年9月份的论文[1],比较新,其中的观点感觉对卷积神经网络的参数调整大有指导作用,特总结之。关于卷积神经网络(Convolutional Neural Network, CNN),笔者后会作文阐述之,读者若心急则或可用谷歌百度一下。...
分类:
Web程序 时间:
2014-10-02 17:08:02
阅读次数:
1448
何学习编程?我的答案很简单:很多人问,工程师要不要学习一些设计的基本原理,做运营的要不要学习一门编程语 言,写客户端代码的人是不是要了解“Deep Learning”。我的答案都是Why Not!每学习一个新的语言、新的技能、新的知识,你就具备一个从其他角度观察自己的可能,也同时为自己打开一扇新的窗...
分类:
其他好文 时间:
2014-09-22 03:01:51
阅读次数:
155
目前caffe不是很完善,输入的图片数据需要在prototxt指定路径。但是我们往往有这么一个需求:训练后得到一个模型文件,我们想拿这个模型文件来对一张图片抽取特征或者预测分类等。如果非得在prototxx指定路径,就很不方便。因此,这样的工具才是我们需要的:给一个可执行文件通过命令行来传递图片路径,然后caffe读入图片数据,进行一次正向传播。
因此我做了这么一个工具,用来抽取任意一张图片的特征。...
分类:
其他好文 时间:
2014-09-19 17:38:25
阅读次数:
333
Introduction to Deep Learning AlgorithmsSee the following article for a recent survey of deep learning:Yoshua Bengio, Learning Deep Architectures for ...
分类:
其他好文 时间:
2014-09-19 09:56:55
阅读次数:
240