这篇文章将介绍感知器、逻辑回归的求解和SVM的部分求解,包含部分的证明。本文章涉及的一些基础知识,已经在《梯度下降、牛顿法和拉格朗日对偶性》中指出,而这里要解决的问题,来自《从感知器到SVM》 、《从线性回归到逻辑回归》两篇文章。 感知器: 前面的文章已经讲到,感知器的目标函数如下: $min \ ...
分类:
其他好文 时间:
2016-06-10 11:04:59
阅读次数:
456
台大林轩田·机器学习基石记要昨天开始看林轩田的机器学习基石,从今天起开始去粗取精
本文在差不多是随堂笔记,可读性不好。。第一讲比较基础,一些概念自己早已经理解了,所以不再做笔记,有点印象的是讲到了ML、DL、AI的一些联系与区别,ML主要是想从数据中学习/逼近一个理想的函数f(x)第二讲讲到了PLA,感知器学习算法,并且证明了线性可分时感知器收敛定理(与Haykin的Neural Networks...
分类:
其他好文 时间:
2016-06-02 13:54:14
阅读次数:
1817
这篇文章主要是分析感知器和SVM处理分类问题的原理,不涉及求解 感知器: 感知器要解决的是这样的一个二分类问题:给定了一个线性可分的数据集,我们需要找到一个超平面,将该数据集分开。这个超平面的描述如下: $w*x+b=0$ 而感知器的决策函数是: $f(x)=sign(w*x+b)$ 其中 $z=w ...
分类:
其他好文 时间:
2016-05-31 22:13:44
阅读次数:
191
摘要:随着计算智的提出,人工神经网络也随之发展。目前业界考虑到把神经网络(NN)归类于人工智能(AI)可能不大合适,而归类于计算智能(CI)更能说明问题实质。进化计算、人工生命和模糊逻辑系统的某些课题,也都归类于计算智能。尽管计算智能与人工智能的界限并非十分明显,然而讨论它们的区别和关系是有益的,逻 ...
分类:
其他好文 时间:
2016-05-13 10:26:26
阅读次数:
251
http://www.gageet.com/2014/09203.php这个网址已都经把文章翻译好了,这里主要是说两点:
1.Googlenet借鉴了network in network里的多层感知器结构,也就是convolution层的 kernel_size=1,它的好处主要是体现在以下两方面:
a.降维,解决计算瓶颈;
b.提高神经网络的表达能力(多层感知器)。
2.Googlene...
分类:
Web程序 时间:
2016-05-12 13:18:20
阅读次数:
693
概述起源卷积网络最初是受视觉神经机制的启发而设计的,是为识别二维形状而设计的一个多层感知器,这种网络结构对平移、比例缩放、倾斜或者共他 形式的变形具有高度不变性。1962年Hubel和Wiesel通过对猫视觉皮层细胞的研究,提出了感受野(receptive field)的概念,1984年日本学者Fukushima 基于感受野概念提出的神经认知机(neocognitron)模型,它可以看作是卷积神经网...
分类:
其他好文 时间:
2016-05-12 09:22:44
阅读次数:
600
1. 简介
神经网络和深度学习是由Michael Nielsen所写,其特色是:兼顾理论和实战,是一本供初学者深入理解Deep Learning的好书。
2. 使用神经网络识别手写数字
2.1 感知器(Perceptrons)
感知器工作原理:接收一系列二进制输入,经过特定的规则计算之后,输出一个简单的二进制。
计算规则:通过引入...
分类:
其他好文 时间:
2016-05-06 15:22:29
阅读次数:
611
教程内容:《MATLAB神经网络原理与实例精解》随书附带源程序.rar9.随机神经网络.rar8.反馈神经网络.rar7.自组织竞争神经网络.rar6.径向基函数网络.rar5.BP神经网络.rar4.线性神经网络.rar3.单层感知器.rar2.MATLAB函数与神经网络工具箱.rar11.神经网 ...
分类:
其他好文 时间:
2016-04-24 18:30:14
阅读次数:
337
深度学习是机器学习研究中的一个新的领域,其动机在于建立、模拟人脑进行分析学习的神经网络,它模仿人脑的机制来解释数据,例如图像,声音和文本。深度学习是无监督学习的一种。 深度学习的概念源于人工神经网络的研究。含多隐层的多层感知器就是一种深度学习结构。深度学习通过组合低层特征形成更加抽象的高层表示属性类 ...
分类:
Web程序 时间:
2016-04-23 23:09:15
阅读次数:
451
参考书 深度学习 深度学习是机器学习研究中的一个新的领域,其动机在亍建立、模拟人脑迚行分析学习的神经网络,它模仿人脑的机制来解释数据, 例如图像,声音和文本。深度学习是无监督学习的一种。深度学习的概念源亍人工神经网络的研究。含多隐层的多层感知器就是一种深度学习结构。 深度学习通过组合低层特征形成更加 ...
分类:
其他好文 时间:
2016-04-23 21:20:41
阅读次数:
211