开一个机器学习方法科普系列,也做基础回顾之用。学而时习之。
content:
linear regression, Ridge, Lasso
Logistic Regression, Softmax
Kmeans, GMM, EM, Spectral Clustering
......
分类:
其他好文 时间:
2015-03-07 01:04:29
阅读次数:
231
Reference:http://ufldl.stanford.edu/wiki/index.php/Softmax_regression起源:Logistic的二类分类 Softmax回归是Logistic回归的泛化版本,用于解决线性多类(K类)的分类问题。Logistic回归可以看作是Softm...
分类:
其他好文 时间:
2015-03-05 20:58:17
阅读次数:
151
word2vec是Google在2013年提出的一款开源工具,其是一个Deep Learning(深度学习)模型(实际上该模型层次较浅,严格上还不能算是深层模型,如果word2vec上层再套一层与具体应用相关的输出层,如Softmax,便更像是一个深层模型),它将词表征成实数值向量,采用CBOW(Continuous Bag-Of-Words Model,连续词袋模型)和Skip-Gram(Con...
分类:
Windows程序 时间:
2015-02-04 23:30:43
阅读次数:
1071
茫然中不知道该做什么,更看不到希望。 偶然看到coursera上有Andrew Ng教授的机器学习课程以及他UFLDL上的深度学习课程,于是静下心来,视频一个个的看,作业一个一个的做,程序一个一个的写。N多数学的不懂、Matlab不熟悉,开始的时候学习进度慢如蜗牛,坚持了几个月,终于也学完了。...
分类:
其他好文 时间:
2015-02-04 16:23:11
阅读次数:
319
DeepLearning tutorial(1)Softmax回归原理简介+代码详解
@author:wepon
@blog:http://blog.csdn.net/u012162613/article/details/43157801
本文介绍Softmax回归算法,特别是详细解读其代码实现,基于python theano,代码来自:Classifying MNIST...
分类:
其他好文 时间:
2015-01-27 09:36:44
阅读次数:
852
本文是stanford大学课程:Convolutional Neural Networks for Visual Recognition 的一些笔记与第一次作业。主要内容为简单(多类)分类器的实现:KNN, SVM, softmax。softmax与SVM的一点区别,其中一张PPT说明:KNN部分框...
分类:
编程语言 时间:
2015-01-18 02:01:23
阅读次数:
1137
前面我们已经说了logistic回归,训练样本是,(且这里的是d维,下面模型公式的x是d+1维,其中多出来的一维是截距横为1,这里的y=±1也可以写成其他的值,这个无所谓不影响模型,只要是两类问题就可以),训练好这个模型中参数θ以后(或者是这个模型,这俩是一个模型),然后给入一个新的,我们就可以根据...
分类:
其他好文 时间:
2015-01-12 22:16:49
阅读次数:
302
Exercise:Softmax Regression习题的链接:Exercise:Softmax RegressionsoftmaxCost.mfunction [cost, grad] = softmaxCost(theta, numClasses, inputSize, lambda, dat...
分类:
其他好文 时间:
2015-01-08 21:23:36
阅读次数:
162
在本节中,我们介绍Softmax回归模型,该模型是logistic回归模型在多分类问题上的推广,在多分类问题中,类标签可以取两个以上的值。 Softmax回归模型对于诸如MNIST手写数字分类等问题是很有用的,该问题的目的是辨识10个不同的单个数字。Softmax回归是有监督的,不过后面也会介绍它与...
分类:
其他好文 时间:
2014-12-18 16:54:12
阅读次数:
290
上周写完了该代码,但是由于没有注意到softmax相关的实现故结果不对,更正后可以得到正确结果,用200幅图片训练200次可以得到90%以上的正确率,参数设置还有待于优化,另外可以考虑用多线程加速,此处目前还有问题(有待于修改,慎用)。推导请参考之前的文章http://blog.csdn.net/xuanyuansen/article/details/41214115。...
分类:
编程语言 时间:
2014-11-27 12:42:24
阅读次数:
323