官方Tutorial地址：http://ufldl.stanford.edu/tutorial/supervised/SoftmaxRegression/...
分类：
其他好文 时间：
2014-11-20 20:24:03
阅读次数：
289
基于自动编码机（autoencoder）,这里网络的层次结构为一个输入层，两个隐层，后面再跟着一个softmax分类器:采用贪婪算法，首先把input和feature1看作一个自动编码机，训练出二者之间的参数，然后用feature1层的激活值作为输出，输入到feature2,即把feature1和f...
分类：
其他好文 时间：
2014-10-23 12:15:03
阅读次数：
137
Self-taught 自我学习器实验报告1.Self-taught 自我学习实验描述 自我学习是无监督特征学习算法，自我学习意味着算法能够从未标注数据中学习，从而使机器学习算法能够获得更大数量的数据，因而更有可能取得更好的性能。在本实验中，我们将按照自我学习的步骤，使用稀疏自编码器和softmax...
分类：
其他好文 时间：
2014-10-17 00:23:43
阅读次数：
371
PS:这些是今年4月份，跟斯坦福UFLDL教程时的实验报告，当时就应该好好整理的…留到现在好凌乱了Softmax Regression实验报告1.Softmax Regression实验描述 Softmax回归模型是逻辑回归模型的推广，它可以把数据分类到两个以上的类别。在本实验中，我们的目标是采用S...
分类：
其他好文 时间：
2014-10-16 23:49:33
阅读次数：
836
This model generalizes logistic regression to classification problems where the class label y can take on more than two possible values. Softmax regre...
分类：
其他好文 时间：
2014-09-16 12:06:50
阅读次数：
891
自我学习就是稀疏编码器串联一个Softmax分类器，上一节看到，训练400次，准确率为98.2%
在此基础上，我们可以搭建我们的第一个深度网络：栈式自编码（2层）+Softmax分类器
简单地说，我们把稀疏自编码器的输出作为更高一层稀疏自编码器的输入。
和自我学习很像，似乎就是新加了一层，但是其实不然：
新技巧在于，我们这里有个微调的过程，让残差从最高层向输入层传递，微调整个网络权重...
分类：
其他好文 时间：
2014-08-16 12:37:40
阅读次数：
220
自我学习就是把稀疏自编码器与Softmax回归分类器串联起来。
稀疏编码器是用来无监督学习的，使用无标签数据。
Softmax回归分类器是有监督学习，使用标签数据。
实际生活中，我们能轻松获得大量无标签数据（如从网上随机下载海量图片）
难以获得大量有标签数据（有标签的数据库通常不会太大，而且很贵）
如果我们手头上只有少量标签数据，但是有大量的无标签数据，这是就可以采用自我...
分类：
其他好文 时间：
2014-08-13 13:03:36
阅读次数：
493
Softmax回归就是推广版本的逻辑回归。
只不过逻辑回归是个2分类问题，而Softmax是多分类问题，仅此而已。
Softmax回归在2分类情况下就蜕化成了逻辑回归。
逻辑回归的代价函数
考虑到权重衰减，修改一下就是Softmax回归的代价函数了
这里的权重衰减项是必须的，因为原先的代价函数不是严格凸函数，有无穷个极小值。现在加了这个权重衰减项，函数变成了严格凸函数。L...
分类：
数据库 时间：
2014-08-12 17:10:34
阅读次数：
502
ufldl学习笔记与编程作业：Softmax Regression(vectorization加速)
ufldl出了新教程，感觉比之前的好，从基础讲起，系统清晰，又有编程实践。
在deep learning高质量群里面听一些前辈说，不必深究其他机器学习的算法，可以直接来学dl。
于是最近就开始搞这个了，教程加上matlab编程，就是完美啊。
新教程的地址是：http://ufldl.stanford.edu/tutorial/
本节是对http://blog.csdn.net/lingerlanlan/...
分类：
其他好文 时间：
2014-08-07 23:08:45
阅读次数：
481
ufldl学习笔记与编程作业：Softmax Regression（softmax回归）
ufldl出了新教程，感觉比之前的好，从基础讲起，系统清晰，又有编程实践。
在deep learning高质量群里面听一些前辈说，不必深究其他机器学习的算法，可以直接来学dl。
于是最近就开始搞这个了，教程加上matlab编程，就是完美啊。
新教程的地址是：http://ufldl.stanford.edu/tutorial/...
分类：
其他好文 时间：
2014-08-07 03:06:28
阅读次数：
290
