要实现的部分为：forward prop, softmax函数的cost function，每一层的gradient，以及penalty cost和gradient。forwad propforward prop是输入sample data，使sample data通过神经网络后得到神经网络输出的过...
分类：
Web程序 时间：
2015-05-25 21:58:07
阅读次数：
203
笔者实力有限，诸多错误之处还望指出。
SAE与DBN两个都可以用于提取输入集特征的算法。
SAE是由多个Spase AutoEncoder堆叠而成，单个Spase AutoEncoder的结构如下：
在堆叠成SAE时的结构如下：
以上SAE的结构可以化分为两个sparse autoencoder和一个 softmax（这里不讨论softmax）.其中的两个sparse autoenc...
分类：
数据库 时间：
2015-05-25 14:43:49
阅读次数：
1356
今天太长姿势了，什么叫懂了也写不出代码说的不就是我吗，就那么几行代码居然叽叽歪歪写了一个小时。首先exercise要实现的是softmax的cost function和gradient，如下图：（1）（2）（3）下面就来仔细分析怎么不借助for循环高效的实现上面三个函数。首先P是一个关键，因为在J和...
分类：
其他好文 时间：
2015-05-23 16:43:39
阅读次数：
187
【原创】Liu_LongPo 转载请注明出处
【CSDN】http://blog.csdn.net/llp1992softmax 回归模型，是logistic 回归模型在多分类问题上的推广。关于logistic回归算法的介绍，前面博客已经讲得很清楚，详情可以参考博客机器学习实战ByMatlab（五）Logistic Regression 在logistic回归模型中，我们的激励函数sigmoid的...
分类：
编程语言 时间：
2015-05-17 15:21:26
阅读次数：
401
caffe源码分析--softmax_layer.cpp文件位置为caffe-master/src/caffe/layers/softmax_layer.cpp这个是一个以前版本的程序，现在的代码有些不同了，不过可以参考caffe源码分析--softmax_layer.cpp[cpp]view pl...
分类：
其他好文 时间：
2015-05-14 16:13:18
阅读次数：
197
本系列文章允许转载，转载请保留全文！【总目录】http://www.cnblogs.com/tbcaaa8/p/4415055.html1. 泊松回归 (Poisson Regression)在生活中，经常会遇到一类问题需要对一段时间内某一小概率事件的发生次数建模，例如癌症、火灾等。假设向量x表示引...
分类：
系统相关 时间：
2015-05-09 16:17:22
阅读次数：
461
内容来自ufldl，代码参考自tornadomeet的cnnCost.m1.Forward PropagationconvolvedFeatures = cnnConvolve(filterDim, numFilters, images, Wc, bc); %对于第一个箭头activationsPo...
分类：
其他好文 时间：
2015-05-08 12:32:41
阅读次数：
409
欢迎转载，转载请注明：本文出自Bin的专栏blog.csdn.net/xbinworld。
技术交流QQ群：433250724，欢迎对算法、技术、应用感兴趣的同学加入。...
分类：
其他好文 时间：
2015-05-03 22:09:59
阅读次数：
134
这是UFLDL的编程练习。Weight decay（Softmax 回归有一个不寻常的特点：它有一个“冗余”的参数集）后的cost function和梯度函数：
cost function：J(θ)=?1m??∑i=1m∑j=1k1{y(i)=j}logeθTjx(i)∑kl=1eθTlx(i)??+λ2∑i=1k∑j=0nθ2ij\begin{align}
J(\theta) = - \frac{...
分类：
其他好文 时间：
2015-04-04 16:47:26
阅读次数：
402
