如果我们不使用过激活函数,那么输出将是输入的线性变换,无论最终多少层,都只是线性变换,为了增强神经网络学习任何函数的能力,需要在其中引入非线性的单元,这个单元就是激活函数。 激活函数大致分为两类,饱和和非饱和: 饱和激活函数 Sigmoid Sigmoid 是常用的非线性的激活函数,它的数学形式如下 ...
分类:
其他好文 时间:
2020-07-13 14:04:28
阅读次数:
69
https://blog.csdn.net/u010376788/article/details/46957957 PCA(Principal Component Analysis,主成分分析)是一种常用的数据分析方法。PCA通过线性变换将原始数据变换为一组各维度线性无关的表示,可用于提取数据的主要 ...
分类:
编程语言 时间:
2020-07-09 15:20:25
阅读次数:
104
概述 PCA(principal components analysis)即主成分分析技术,又称为主分量分析,旨在利用降维的思想,把多个指标转换为少数的几个综合指标。 主成分分析是一种简化数据集的技术,它是一个线性变换。这个线性变化把数据变换到一个新的坐标系统中,使得任何数据投影的第一大方差在第一个 ...
分类:
其他好文 时间:
2020-06-18 10:57:17
阅读次数:
151
进度日志 公共课一:政治 公共课二:英语一 业务课一:数学一 业务课二:自动控制原理、信号与系统 20200614 很好,上午休息。嗯...调子不对。 下午...重新在状态空间中挣扎...(因为看的是第二次视频了...)能控标准I型和能观标准I型分别来自两种不同的实现方法。后面在进行状态向量的线性变 ...
分类:
其他好文 时间:
2020-06-15 10:12:28
阅读次数:
137
一、概念 主成分分析(Principal Component Analysis)是指将多个变量通过线性变换以选出较少数重要变量的一种多元统计分析方法,又称为主成分分析。在实际应用场合中,为了全面分析问题,往往提出很多与此有关的变量(或因素),因为每个变量都在不同程度上反映这个应用场合的某些信息。 主 ...
分类:
编程语言 时间:
2020-06-07 01:00:18
阅读次数:
92
定义 设 $f\in Hom(V,U)$。选定基偶: $$ V:\alpha_1,\cdots,\alpha_s \\ U:\beta_1,\cdots,\beta_n $$ 若 $(f(\alpha_1),\cdots,f(\alpha_s))=(\beta_1,\cdots,\beta_n)A$ ...
分类:
其他好文 时间:
2020-05-13 10:27:21
阅读次数:
94
仿射变换和透视变换 仿射变换是把一个二维坐标系转换到另一个二维坐标系的过程,转换过程坐标点的相对位置和属性不发生变换,是一个线性变换,该过程只发生旋转和平移过程。因此,一个平行四边形经过仿射变换后还是一个平行四边形。所以,仿射= 旋转 + 平移 透视变换是把一个图像投影到一个新的视平面的过程,该过程 ...
分类:
其他好文 时间:
2020-05-08 20:09:27
阅读次数:
67
为什么要做 batch normalization 没有加batch normalization,过拟合,也就是训练集的效果还不错,但是测试集的效果真的差 BN的基本思想其实相当直观:因为深层神经网络在做非线性变换前的激活输入值(就是那个x=WU+B,U是输入)随着网络深度加深或者在训练过程中,其分 ...
分类:
其他好文 时间:
2020-05-02 22:30:06
阅读次数:
62
比如说图7-7,左图中的数据是线性不可分的,利用非线性变换将其转换为右图中的数据分布,再利用线性支持向量机就可以解决了。 核函数是什么? 核函数和映射函数之间的关系? 核函数在支持向量机中是怎么使用的? 正定核的充分必要条件? 常用的核函数? 什么是非线性支持向量机? 也就是将支持向量机中的对偶形式 ...
分类:
编程语言 时间:
2020-05-02 16:58:26
阅读次数:
62
1. 什么是逻辑回归 逻辑回归是用来做分类算法的,大家都熟悉线性回归,一般形式是Y=aX+b,y的取值范围是[-∞, +∞],有这么多取值,怎么进行分类呢?不用担心,伟大的数学家已经为我们找到了一个方法。 也就是把Y的结果带入一个非线性变换的Sigmoid函数中,即可得到[0,1]之间取值范围的数S ...
分类:
其他好文 时间:
2020-04-20 16:13:43
阅读次数:
84