1.数学 2.机器学习 Java 机器学习 工具 & 库 1.处理小数据效果好 2.深度学习—大数据，超过500w；图像，语言方面效果奇好 SVD 最小二乘法 梯度下降法 局部加权回归 1.最大似然估计 2.logistic回归 3.感知器的初步—logistic的简化情节 牛顿法 1.介绍了牛顿方 ...
分类：
其他好文 时间：
2016-04-23 11:53:53
阅读次数：
699
（一）生成学习算法 在线性回归和Logistic回归这种类型的学习算法中我们探讨的模型都是p(y|x;θ)，即给定x的情况探讨y的条件概率分布。如二分类问题，不管是感知器算法还是逻辑回归算法，都是在解空间中寻找一条直线从而把两种类别的样例分开，对于新的样例，只要判断在直线的哪一侧即可；这种直接对问题 ...
分类：
编程语言 时间：
2016-04-21 01:15:01
阅读次数：
538
（一）局部加权回归 通常情况下的线性拟合不能很好地预测所有的值，因为它容易导致欠拟合（under fitting）。如下图的左图。而多项式拟合能拟合所有数据，但是在预测新样本的时候又会变得很糟糕，因为它导致数据的 过拟合（overfitting），不符合数据真实的模型。如下图的右图。 下面来讲一种非 ...
分类：
编程语言 时间：
2016-04-21 01:09:40
阅读次数：
369
一、激活函数： 1.硬极限函数：用于分类 2.线性函数：用于函数逼近 3.饱和线性函数：分类 4.Sigmoidal函数：S函数，是连续可微的，权值可用BP算法调节 5.高斯函数 二。学习规则： 1.Hebb规则 2.离散感知器学习规则 3.δ学习规则 4.Widrow—Hoff学习规则 三、神经网 ...
分类：
其他好文 时间：
2016-04-11 14:24:44
阅读次数：
107
今天学了感知器算法：Perceptron Learning Algorithm (PLA) 觉得自己应该回去重新学学线性代数QAQ 依旧是自己的理解为主…… 感知器算法是一种线性分类器，对于一个样本，它具有x={x1, x2, ..., xn}这些特征，每个特征具有一个权值w={w1, w2, ..
分类：
编程语言 时间：
2016-02-19 14:10:34
阅读次数：
171
为了简化符号，将θ引入方程左侧并定义、 得到 和 感知器学习规则 这可能看起来是一种极端简化的方法，但“阈值”感知器背后的思路是模拟大脑中单个神经元的工作方式：：激活与否。总结前一节的要点：感知器接收多个输入信号，如果输入信号的和超过某个阈值则返回一个信号，否则就什么也不输出。让这些成为“机器学习”...
分类：
其他好文 时间：
2016-01-07 22:46:42
阅读次数：
244
在学习了机器学习十大算法之后，我决定将目光投向神经网络，从而攀登深度学习的高峰。这条险路的第一个拦路虎就是Rosenblatt感知器。为什么这么说呢？不仅是因为它开拓性的贡献——感知器是第一个从算法上完整描述的神经网络，而Rosenblatt感知器是感知器作为监督学习的第一个模型。还因为学习Rose...
分类：
其他好文 时间：
2015-11-28 23:09:18
阅读次数：
219
深度学习的特点：1）建立、模仿人脑学习的机制2）含多隐层的多层感知器；组合底层特征形成更加抽象的高层特征3）发现数据的分布性特征4）源于人工神经网络人工神经网络的低潮：1）容易过拟合、参数难tune，需要不少trick2）训练速度比较慢，在层次比较少（小于等于3）的情况下效果并不比其它方法更优人工神...
分类：
其他好文 时间：
2015-10-18 15:19:19
阅读次数：
366
1.多层感知器简介 多层感知器（MLP）可以看做一个逻辑回归，不过它的输入要先进行一个非线性变换，这样数据就被映射到线性可分的空间了，这个空间我们称为隐藏层。通常单层隐藏层就可以作为一个感知器了，其结构如...
分类：
其他好文 时间：
2015-10-16 23:26:19
阅读次数：
571
神经网络在OCR中属于很重要的算法,现在火爆的DEEPLEARNING另一个名字叫做多层神经网络.我试着把相关的知识总结一下,这篇文章先写一个最简单的实现.最简单的网络就是只有一个节点,这个节点有一个霸气的名字--感知器.下面是一段关于感知器的代码,代码虽然简单,但已经把感知器的逻辑都表现出来了. ...
分类：
其他好文 时间：
2015-10-10 09:04:08
阅读次数：
167
