深度神经网络压缩与优化研究 文献来源 :王征韬. 深度神经网络压缩与优化研究[D].电子科技大学,2017. 摘要 ：深度学习是近年来机器学习领域最有影响力的研究方向，在计算机视觉、自然语言处理的许多问题上都取得了突出的效果。深度学习的本质是大数据支撑下，由多层人工神经网络堆叠形成的信号处理系统，具 ...
分类：
其他好文 时间：
2020-04-01 19:14:20
阅读次数：
69
本文首先回顾了一些传统的激活函数和注意力机制，然后解读了一种“注意力机制下的激活函数”，也就是自适应参数化修正线性单元（Adaptively Parametric Rectifier Linear Unit，APReLU）。 1. 激活函数 激活函数是目前人工神经网络的核心组成部分之一，其作用是进行 ...
分类：
其他好文 时间：
2020-03-18 13:11:39
阅读次数：
54
本文首先回顾了一些传统的激活函数和注意力机制，然后解读了一种“注意力机制下的激活函数”，也就是自适应参数化修正线性单元（Adaptively Parametric Rectifier Linear Unit，APReLU）。 1. 激活函数 激活函数是目前人工神经网络的核心组成部分之一，其作用是进行 ...
分类：
其他好文 时间：
2020-03-10 01:26:41
阅读次数：
72
本文首先盘点了传统的激活函数以及注意力机制，然后解读了一种“注意力机制下的新型激活函数”，也就是自适应参数化修正线性单元（Adaptively Parametric Rectifier Linear Unit，APReLU）。 1. 激活函数 激活函数是现代人工神经网络的核心组成部分，其用处是进行人 ...
分类：
其他好文 时间：
2020-03-09 13:28:32
阅读次数：
53
介绍 在该章节中我们将根据用户产生的数据对潜在的会员用户（可能产生购买会员的行为）进行预测。 知识点 朴素贝叶斯 人工神经网络 越来越多的用户开始购买的会员服务，享受更多的优质课程，以及最为完整的线上操作体验。但是，的一位注册用户是否购买会员的行为应该是建立在一定背景条件下。相信很少有用户刚刚完成注 ...
分类：
编程语言 时间：
2020-03-03 13:10:16
阅读次数：
163
本文在综述传统激活函数和注意力机制的基础上，解读了一种注意力机制下的激活函数，即自适应参数化修正线性单元（Adaptively Parametric Rectifier Linear Unit，APReLU），希望对大家有所帮助。 1. 激活函数 激活函数是现代人工神经网络的重要组成部分，其作用是实 ...
分类：
其他好文 时间：
2020-03-01 10:58:18
阅读次数：
90
这些年深度学习的出现，让光学字符识别（OCR）技术焕发第二春。现在光学字符识别（OCR）基本都用卷积神经网络来做了，而且识别率也是惊人的好，人们也不再需要花大量时间去设计字符特征了。 在光学字符识别（OCR）系统中，人工神经网络主要充当特征提取器和分类器的功能，输入是字符图像，输出是识别结果，一气呵 ...
分类：
其他好文 时间：
2020-02-21 18:30:23
阅读次数：
130
three steps for deep learning Step1：神经网络（Neural network） Step2：模型评估（Goodness of function） Step3：选择最优函数（Pick best function） neural network 手动连接神经元 如： 1 ...
分类：
其他好文 时间：
2020-02-19 20:39:14
阅读次数：
77
什么是激活函数？ 激活函数（Activation functions）对于人工神经网络 [1] 模型去学习、理解非常复杂和非线性的函数来说具有十分重要的作用。它们将非线性特性引入到我们的网络中。如图1，在神经元中，输入的 inputs 通过加权，求和后，还被作用了一个函数，这个函数就是激活函数。引入 ...
分类：
其他好文 时间：
2020-02-17 12:49:27
阅读次数：
97
神经网络(Neural Network)是一种模仿生物神经网络构造的数学模型。很多文章喜欢从生物的神经元结构方面入手，展开对人工神经网络的介绍。但那样会引入更多意味不明的单词，比如突触，树突，轴突……所以这里并不会深入的介绍生物的神经网络是怎么工作的，只会说明为什么人工神经网络要构造成这样。本文按照 ...
分类：
其他好文 时间：
2020-02-14 13:01:03
阅读次数：
76
