系列文章目录： 感知机 线性回归 非线性问题 多项式回归 岭回归 逻辑回归 算法介绍 今天我们一起来学习使用非常广泛的分类算法：逻辑回归，是的，你没有看错，虽然它名字里有回归，但是它确实是个分类算法，作为除了感知机以外，最最最简单的分类算法，下面我们把它与感知机对比来进行学习； 从决策边界上看 感知 ...
分类：
编程语言 时间：
2021-06-24 18:35:36
阅读次数：
0
多层感知机 代码： import torch import numpy as np import torchvision #torch的视觉包 import torchvision.datasets as datasets import torchvision.transforms as trans ...
分类：
其他好文 时间：
2021-03-30 12:45:18
阅读次数：
0
数值稳定性和模型初始化 目标：深度学习模型的数值稳定性问题以及模型参数的初始化方法。 深度模型有关数值稳定性的典型问题是衰减（vanishing）和爆炸（explosion）。 衰减和爆炸 当神经网络的层数较多时，模型的数值稳定性容易变差。假设一个层数为$L$的多层感知机的第$l$层$\boldsy ...
分类：
其他好文 时间：
2021-02-17 15:10:01
阅读次数：
0
通俗理解激活函数的另一种解释激活函数其中一个重要的作用是加入非线性因素的，解决线性模型所不能解决的问题。这个解释形象的解释神经网络激活函数的作用是什么？这篇文章已经解释的比较清楚。下面从另一个角度来解释一下激活函数的作用，特征的充分组合。首先我们看一个简单的感知机如下：其中x1,x2输入均为特征的输入激活函数采取sigmoid函数,公式表达如下：此时，我们可能看不出什么不同，但是根据泰勒展开，我们
分类：
其他好文 时间：
2020-11-27 11:26:45
阅读次数：
6
一、全连接层用pytorch定义 二、MLP举例 三、具体代码 class MLP(nn.Module): def __init__(self): super(MLP,self).__init__() self.model = nn.Sequential( nn.Linear(784,200), n ...
分类：
其他好文 时间：
2020-11-27 10:57:01
阅读次数：
4
Rosenbaltt在1957年，于Cornell航空实验室所发明的一种人工神经网络。 ”神经网络“听上去名字特别高大上，以下从简单的数学原理来说明神经网络之感知机，进入快速理解神经网络算法的基础原理。 感知机：有n个输入数据，通过权重与各数据之间的计算和，比较激活函数结果，得出输出。很容易解决与、 ...
分类：
其他好文 时间：
2020-11-01 10:16:19
阅读次数：
17
1.单层感知机 单层感知机的主要步骤： 1.对数据进行一个权重的累加求和，求得∑ 2.将∑经过一个激活函数Sigmoid，得出值O 3.再将O，经过一个损失函数mse_loss，得出值loss 4.根据loss，以及前边所求得的值，求得loss对各个w的偏导数 5.更新w值 # 单层感知机梯度的推导 ...
分类：
其他好文 时间：
2020-10-09 20:26:54
阅读次数：
20
工作中需要预测一个过程的时间，就想到了使用BP神经网络来进行预测。 简介 BP神经网络（Back Propagation Neural Network）是一种基于BP算法的人工神经网络，其使用BP算法进行权值与阈值的调整。在20世纪80年代，几位不同的学者分别开发出了用于训练多层感知机的反向传播算法 ...
分类：
编程语言 时间：
2020-07-29 14:44:54
阅读次数：
66
1. 感知机原理 感知机是二分类的线性分类模型，本质上想找到一条直线或者分离超平面对数据进行线性划分 适用于线性可分的数据集，否则感知机不会收敛 假设有一个数据集$D = {(x_1, y_1), (x_2, y_2), ..., (x_N, y_N)}$，其中$x_i \in Rn$，即$x_i ...
分类：
其他好文 时间：
2020-07-21 23:19:19
阅读次数：
126
Reference：李航 --《统计学习方法》 10 种主要的统计学习方法概括总结 方法 适用问题 模型特点 模型类型 学习策略 学习的损失函数 学习算法 感知机 二类分类 分离超平面 判别模型 极小化误分点到超平面距离 误分点到超平面距离 随机梯度下降 k 近邻 多类分类，回归 特征空间，样本点 ...
分类：
其他好文 时间：
2020-07-06 14:36:46
阅读次数：
104
