什么是神经网络
人工神经网络（Artificial Neural Networks，简写为ANNs）也简称为神经网络（NNs）或称作连接模型（Connection Model），它是一种模仿动物神经网络行为特征，进行分布式并行信息处理的算法数学模型。这种网络依靠系统的复杂程度，通过调整内部大量节点之间相互连接的关系，从而达到处理信息的目的。
神经网络BP算法
BP...
分类：
其他好文 时间：
2014-12-28 20:54:23
阅读次数：
1132
reference: http://dataunion.org/?p=5044机器学习和深度学习学习资料比较全面的收集了机器学习的介绍文章，从感知机、神经网络、决策树、SVM、Adaboost到随机森林、Deep Learning。《机器学习经典论文/survey合集》 介绍：看题目你已经知道了是什...
分类：
其他好文 时间：
2014-12-25 00:05:56
阅读次数：
375
caffe在cifar10 的example上给出了两个模型，一个是quick模式，一个是full模式，训练full模式时会出现loss=nan的错误...
分类：
其他好文 时间：
2014-12-24 11:48:27
阅读次数：
1583
DeepID人脸识别算法之三代
DeepID，目前最强人脸识别算法，已经三代。
如今，深度学习方兴未艾，大数据风起云涌，各个领域都在处于使用深度学习进行强突破的阶段，人脸识别也不例外，香港中文大学的团队使用卷积神经网络学习特征，将之用于人脸识别的子领域人脸验证方面，取得了不错的效果。虽然是今年7月份才出的成果，但连发三箭，皆中靶心，使用的卷积神经网络已经改进了三次，破竹之势节节高。故而在这里将DeepID神经网络的三代进化史总结一下，以期相互讨论，互有增益。...
分类：
编程语言 时间：
2014-12-23 00:16:37
阅读次数：
366
LRN全称为Local Response Normalization，即局部响应归一化层，具体实现在CAFFE_ROOT/src/caffe/layers/lrn_layer.cpp和同一目录下lrn_layer.cu中。
该层需要参数有：
norm_region： 选择对相邻通道间归一化还是通道内空间区域归一化，默认为ACROSS_CHANNELS，即通道间归一化；...
分类：
其他好文 时间：
2014-12-19 23:30:21
阅读次数：
583
考虑一个代价函数C , 它根据参数向量
计算出当前迭代模型的代价，记作C().
机器学习中，我们的任务就是得到代价的最小值，在机器学习中代价函数通常是损失函数的均值，或者是它的数学期望。见下图：
这个叫做泛化损失，在监督学过程中，我们知道z=(x,y) ,并且 f（x)
是对y的预测。
什么是这里的梯度呢？
当 是标量的时候，代价函数的梯度可表示如下：
当...
分类：
其他好文 时间：
2014-12-17 22:43:44
阅读次数：
323
什么是机器学习？
传统的教科书会用一大堆高等数学，线性代数，概率论，统计学等知识把你拒之门外，这里博主俺决定用一个很简单的例子给不用你任何高深的数学知识来理解。
在写机器学习之前，我们来举个例子。假设你是个古代的国王，那里没有现代的科技，你想找个预报天气比较准的人来帮你预报天气。你要怎么办呢？通常，我们会找一个人，让他预报10000天，看它的准确率如何，然后再找一个人，再预报1...
分类：
其他好文 时间：
2014-12-17 22:41:29
阅读次数：
275
我记得科学松鼠会的姬十三曾在一篇文章中写到，开始干一件好事情就像拿着锣一敲，然后志同道合的人就从四面八方赶来。开源之美，仅在于此。
不要问怎么入门，直接上路吧。
您刚才那个问题是说大数据跟人工智能和深度学习怎么划等号？是这么一个关系，大数据是一个研究对象，人工智能是一个目标，我们要达到人工智能的目标，要理解数据，方法论是机器学习或者是智能计算。深度学习是机器学习里面十个手指头里面的一个...
分类：
其他好文 时间：
2014-12-17 18:37:41
阅读次数：
206
周日在北大理教听了余凯和漆远关于深度学习的讲座，这个讲座是北大机器学习研究会办的，不是学术性质，是有点科普性质的一个对话，雷鸣做现场主持。 刚开始余凯说了一下什么是大数据，他提到除了数据源、数据仓库，还有分层的概念，是分层学习的意思吗？存疑；漆远提到一本大数据的入门书，introduction...
分类：
其他好文 时间：
2014-12-15 13:27:07
阅读次数：
159
Deep Learning（深度学习）：ufldl的2个教程(这个没得说，入门绝对的好教程，Ng的，逻辑清晰有练习)：一ufldl的2个教程(这个没得说，入门绝对的好教程，Ng的，逻辑清晰有练习)：二Bengio团队的deep learning教程，用的theano库，主要是rbm系列，搞pytho...
分类：
其他好文 时间：
2014-12-14 14:27:55
阅读次数：
497
