本节内容 牛顿方法 指数分布族 广义线性模型 之前学习了梯度下降方法,关于梯度下降(gradient descent),这里简单的回顾下【参考感知机学习部分提到的梯度下降(gradient descent)】。在最小化损失函数时,采用的就是梯度下降的方法逐步逼近最优解,规则为其实梯度下降属于一种优化 ...
分类:
其他好文 时间:
2017-06-08 00:19:59
阅读次数:
299
BPN(Back Propagation Net) 反向传播神经网络是对非线性可微分函数进行权值训练的多层网络,是前向神经网络的一种。 BP网络主要用于: 1)函数逼近与预测分析:用输入矢量和相应的输出矢量训练一个网络,逼近一个函数或预测未知信息; 2)模式识别:用一个特定的输出矢量将它与输入矢量联 ...
分类:
其他好文 时间:
2017-06-05 19:00:50
阅读次数:
452
支持向量机(SVM)是一种二分类模型,跟之前介绍的感知机有联系但也有区别。简单来讲,感知机仅仅是找到了一个平面分离正负类的点,意味着它是没有任何约束性质的,可以有无穷多个解,但是(线性可分)支持向量机和感知机的区别在于,支持向量机有一个约束条件,即利用间隔最大化求最优分离超平面,这时,支持向量机的解 ...
分类:
其他好文 时间:
2017-06-02 23:04:43
阅读次数:
241
什么是反向传播 作者:韩小雨 类别:①反向传播算法 ②反向传播模型 反向传播算法(英:Backpropagation algorithm,简称:BP算法) 算法简介:是一种监督学习算法,常被用来训练多层感知机。 于1974年,Paul Werbos[1]首次给出了如何训练一般网络的学习算法,而人工神 ...
分类:
其他好文 时间:
2017-05-31 10:20:43
阅读次数:
265
比較全面的收集了机器学习的介绍文章,从感知机、神经网络、决策树、SVM、Adaboost到随机森林、Deep Learning。 《机器学习经典论文/survey合集》 介绍:看题目你已经知道了是什么内容,没错。里面有非常多经典的机器学习论文值得细致与重复的阅读。 《Brief History of ...
分类:
其他好文 时间:
2017-05-24 16:09:10
阅读次数:
316
本文转自:http://blog.csdn.net/sinat_34707539/article/details/52105681 《Brief History of Machine Learning》 介绍:这是一篇介绍机器学习历史的文章,介绍很全面,从感知机、神经网络、决策树、SVM、Adabo ...
分类:
其他好文 时间:
2017-05-24 14:41:17
阅读次数:
443
模型 机器学习中,感知机(perceptron)是一种二值的监督学习的算法(相应的函数,能决定输入是否属于某个分类,其中输入由一个数值向量表示)。感知机是一个线性分类器,其分类函数基于线性预测函数对新的输入作出预测,即,将输入(实数向量)映射到{-1,1}二值空间: f(x)=sign(wx+b) ...
分类:
其他好文 时间:
2017-05-10 15:44:49
阅读次数:
251
Adaline神经网络Adaline利用了最小二乘法的思想,相较于感知机神经网络,对于数据的线性可分的要求更低一些,可以允许一些异常数据。
上面描述了迭代求解的过程,但是在x0(k+1)x_...
分类:
其他好文 时间:
2017-05-08 09:55:01
阅读次数:
247
反向传播算法(英:Backpropagation algorithm,简称:BP算法)是一种监督学习算法,常被用来训练多层感知机。 于1974年,Paul Werbos[1]首次给出了如何训练一般网络的学习算法,而人工神经网络只是其中的特例。不巧的,在当时整个人工神经网络社群中却无人知晓Paul所提 ...
分类:
编程语言 时间:
2017-04-22 00:07:41
阅读次数:
269
作者:桂。 时间:2017-04-16 11:53:22 链接:http://www.cnblogs.com/xingshansi/p/6718503.html 前言 今天开始学习李航的《统计学习方法》,考虑到之前看《自适应滤波》,写的过于琐碎,拓展也略显啰嗦,这次的学习笔记只记录书籍有关的内容。前 ...
分类:
其他好文 时间:
2017-04-16 22:47:41
阅读次数:
274