机器学习(Machine Learning)&深度学习(Deep Learning)资料希望转载的朋友,你可以不用联系我.但是一定要保留原文链接,因为这个项目还在继续也在不定期更新.希望看到文章的朋友能够学到更多.《Brief History of Machine Learning》介绍:这是一篇介...
分类:
系统相关 时间:
2015-06-16 18:32:50
阅读次数:
242
Caffe代码导读(5):对数据集进行Testing上一篇介绍了如何准备数据集,做好准备之后我们先看怎样对训练好的模型进行Testing。先用手写体识别例子,MNIST是数据集(包括训练数据和测试数据),深度学习模型采用LeNet(具体介绍见http://yann.lecun.com/exdb/le...
分类:
其他好文 时间:
2015-06-16 18:24:52
阅读次数:
226
STL-10 dataset STL-10为了发展无监督特征学习、深度学习、自我学习算法而建立的图片识别数据集。受CIFAR10数据集的启发,但做了一些修正。每一类有比CIFAR10更少的标定的训练样本,但有非常大的未标记样本在进行监督训练前提供给模型。主要的挑战在于好好利用未标记的数据(来源类似....
分类:
其他好文 时间:
2015-06-15 23:34:58
阅读次数:
1699
时间:这个报道是大概2015年2月的文章:Facebook AI Director Yann LeCun on His Quest to Unleash Deep Learning and Make Machines Smarte,然后翻阅在CCF上的。知识点:1、其实之前一直不知道这几个大神这个叫...
分类:
其他好文 时间:
2015-06-15 12:36:58
阅读次数:
304
稀疏编码(SparseCoding)
sparse coding也是deep learning中一个重要的分支,同样能够提取出数据集很好的特征(稀疏的)。选择使用具有稀疏性的分量来表示我们的输入数据是有原因的,因为绝大多数的感官数据,比如自然图像,可以被表示成少量基本元素的叠加,在图像中这些基本元素可以是面或者线。
稀疏编码算法的目的就是找到一组基向量
使得我们能将输入向量x表示成这些基向量...
分类:
其他好文 时间:
2015-06-14 10:59:51
阅读次数:
236
我学习自然语言是从Christopher D.Manning的统计自然语言处理基础这本书开始的,很多文本分析也是应用统计方法,或者机器学习的方法,而近年来深度学习逐渐渗入各个领域,其在自然语言处理领域中也取得了令人惊叹的效果,这成功的引起了我的重视,决定学习一下。何其所幸,让我找到了斯坦福大学深度学...
分类:
编程语言 时间:
2015-06-12 19:01:35
阅读次数:
279
第二讲:简单的词向量表示:word2vec,Glove(Simple Word Vector representations: word2vec, GloVe)转载请注明出处及保留链接“我爱自然语言处理”:http://www.52nlp.cn本文链接地址:斯坦福大学深度学习与自然语言处理第二讲:词...
分类:
编程语言 时间:
2015-06-12 18:55:13
阅读次数:
685
此次主要由自我学习过度到深度学习,简单记录如下:
(1)深度学习比浅层网络学习对特征具有更优异的表达能力和紧密简洁的表达了比浅层网络大的多的函数集合。
(2)将传统的浅层神经网络进行扩展会存在数据获取、局部最值和梯度弥散的缺点。
(3)栈式自编码神经网络是由多层稀疏自编码器构成的神经网络(最后一层采用的softmax回归或者logistic回归分类),采用逐层贪婪的训练方法得到初始的参数,这...
分类:
其他好文 时间:
2015-06-11 14:41:24
阅读次数:
594
有感于最近接触到的一些关于深度学习的知识,遂打算找个东西来加深理解。首选的就是以前有过接触,且火爆程度非同一般的word2vec。严格来说,word2vec的三层模型还不能算是完整意义上的深度学习,本人确实也是学术能力有限,就以此为例子,打算更全面的了解一下这个工具。在此期间,参考了[1][2].....
分类:
其他好文 时间:
2015-06-10 22:23:39
阅读次数:
667
首先将本节主要内容记录下来,然后给出课后习题的答案。
笔记:
1:首先我想推导用SVD求解PCA的合理性。
PCA原理:假设样本数据X∈Rm×n,其中m是样本数量,n是样本的维数。PCA降维的目的就是为了使将数据样本由原来的n维降低到k维(k<n)。方法是找数据随之变化的主轴,在Andrew
Ng的网易公开课上我们知道主方向就是X的协方差所对应的最大特征值所对应的特征向量的...
分类:
其他好文 时间:
2015-06-09 11:56:02
阅读次数:
200