从上节已经知道perceptron 不是什么智能算法，在它的基础上我们需要去解决调参的问题。既然是调节参数，总要有个目标和手段吧，看看这些大神怎么搞的。首先建立目标，对于生活里面常常会面对分类的问题，比如：在人群中把流氓分子找出来，我们已经有3000个强奸犯和7000个普通的人的档案记录. 大家希望 ...
分类：
其他好文 时间：
2016-08-16 08:11:41
阅读次数：
207
直到50年代，perceptron算法被Frank Rosenblatt搞了出来。perceptron的想法和pitts的路子就不大一样，perceptron关注MC神经元(MCN)本身的，而不是神经元在大脑中存在的复杂拓扑，所以其中除了MCN以外，没有其他的生物学含义。 按照Pitts的证明，一个 ...
分类：
其他好文 时间：
2016-08-16 07:06:19
阅读次数：
214
一：引言 在前面我们谈论到的算法都是在给定x的情况下直接对p(y|x;Θ)进行建模。例如，逻辑回归利用hθ(x) = g(θTx)对p(y|x;Θ)建模。 现在考虑这样一个分类问题，我们想根据一些特征来区别动物是大象(y=1)还是狗(y=0)。给定了这样一个训练集，逻辑回归或感知机算法要做的就是去找 ...
分类：
编程语言 时间：
2016-08-15 01:26:44
阅读次数：
295
目的： 通过用Mlpconv层来替代传统的conv层，可以学习到更加抽象的特征。传统卷积层通过将前一层进行了线性组合，然后经过非线性激活得到(GLM)，作者认为传统卷积层的假设是基于特征的线性可分。而Mlpconv层使用多层感知机，是一个深层的网络结构，可以近似任何非线性的函数。在网络中高层的抽象特 ...
分类：
Web程序 时间：
2016-08-01 17:19:51
阅读次数：
217
《Brief History of Machine Learning》 介绍:这是一篇介绍机器学习历史的文章，介绍很全面，从感知机、神经网络、决策树、SVM、Adaboost到随机森林、Deep Learning. 《Deep Learning in Neural Networks: An Over ...
分类：
系统相关 时间：
2016-06-30 15:59:41
阅读次数：
257
在深度学习领域，传统的多层感知机（MLP）具有出色的表现，取得了许多成功，它曾在许多不同的任务上——包括手写数字识别和目标分类上创造了记录。甚至到了今天，MLP在解决分类任务上始终都比其他方法要略胜一筹。 尽管如此，大多数专家还是会达成共识：MLP可以实现的功能仍然相当有限。究其原因，人类的大脑有着 ...
分类：
Web程序 时间：
2016-06-17 16:55:30
阅读次数：
339
目录 1 如何更新权值向量？2 最小均方法（LMS）与感知机：低效的民主3 最小二乘法：完美的民主4 支持向量机：现实的民主5 总结6 参考资料 1 如何更新权值向量？ 在关于线性模型你可能还不知道的二三事（一、样本）中我已提到如何由线性模型产生样本，在此前提下，使用不同机器学习算法来解决回归问题的 ...
分类：
其他好文 时间：
2016-06-16 19:40:20
阅读次数：
219
《神经网络与机器学习》第4章前半段笔记以及其他地方看到的东西的混杂…第2、3章的内容比较古老预算先跳过。
不得不说幸亏反向传播的部分是《神机》里边人话比较多的部分，看的时候没有消化不良。多层感知机书里前三章的模型的局限都很明显，对于非线性可分问题苦手，甚至简单的异或都弄不了。于是多层感知机（也就是传说中的神经网络）就被发明了出来对付这个问题。多层感知机就是由一系列的感知机，或者说神经元组成，每个神...
分类：
编程语言 时间：
2016-06-12 02:54:37
阅读次数：
339
一入ML深似海啊…
这里主要是《神经网络与机器学习》（Neural Networks and Learning Machines，以下简称《神机》）的笔记，以及一些周志华的《机器学习》的内容，可能夹杂有自己的吐槽，以及自己用R语言随便撸的实现。
话说这个《神经网络与机器学习》还真是奇书，不知是作者风格还是翻译问题，一眼望去看不到几句人话（也许是水利狗看不懂），感觉我就是纯买来自虐的。
作为开始...
分类：
其他好文 时间：
2016-06-02 14:34:51
阅读次数：
328
