逻辑回归、正则化、感知机 正则化 为避免过拟合，增强模型的泛化能力，可以使用正则化的方法。 1. Lasso回归 L1正则化 $$ J(\theta)=\frac{1}{2n}(\mathtt X\theta Y)^T(\mathtt X\theta Y)+\alpha\lVert \theta\r ...
分类：
其他好文 时间：
2020-05-13 16:36:28
阅读次数：
60
[TOC] 1、感知机模型 感知机是一个线性分类器，感知机的公式是 $$ f(x) = sign(wx+b) $$ 其中 $$ \operatorname{sign}(x)=\left\{\begin{array}{ll} +1, & x \geqslant 0 \\ 1, & x 关于$wx+b$ ...
分类：
其他好文 时间：
2020-05-13 15:23:41
阅读次数：
65
什么是多层感知机？ 多层感知机（MLP，Multilayer Perceptron）也叫人工神经网络（ANN，Artificial Neural Network），除了输入输出层，它中间可以有多个隐层，最简单的MLP只含一个隐层，即三层的结构，如下图： 上图可以看到，多层感知机层与层之间是全连接的。 ...
分类：
编程语言 时间：
2020-05-12 16:38:47
阅读次数：
136
1.序列数据： 自然语言 连续视频帧 股票走势 机器翻译 2.循环神经网络与传统神经网络的区别： 传统神经网络如多层感知机，每个隐藏层的节点之间是无连接的，而RNN则不然。有连接意味着有信息的流入，因此循环神经网络可以对序列数据进行预测和分类。 3.RNN序列处理 many 2 many ：机器翻译 ...
分类：
Web程序 时间：
2020-05-09 09:13:02
阅读次数：
117
SVM是什么？ 支持向量机（support vector machines, SVM）是一种二分类模型，它的基本模型是定义在特征空间上的间隔最大的线性分类器，间隔最大使它有别于感知机；SVM还包括核技巧，这使它成为实质上的非线性分类器。SVM的的学习策略就是间隔最大化，可形式化为一个求解凸二次规划的 ...
分类：
编程语言 时间：
2020-05-01 20:13:46
阅读次数：
95
1 简介 支持向量机(support vector machines> SVM)是一种二类分类模型。它的基本模型是定义在特征空间上的间隔最大的线性分类器，间隔最大使它有别于感知机;支持 向量机还包括核技巧，这使它成为实质卜的非线性分类器。支持向量机的学习策略就是间隔最大化，可形式化为一个求解凸二次规 ...
分类：
其他好文 时间：
2020-04-29 12:49:37
阅读次数：
142
深度神经网络(DNN，Deep Neural Networks)简介 首先让我们先回想起在之前博客（ "数据挖掘入门系列教程（七点五）之神经网络介绍" ）中介绍的神经网络：为了解决M P模型中无法处理XOR等简单的非线性可分的问题时，我们提出了多层感知机，在输入层和输出层中间添加一层隐含层，这样该网 ...
分类：
其他好文 时间：
2020-04-28 00:28:05
阅读次数：
52
学习资料：《统计学习方法 第二版》、《机器学习实战》、吴恩达机器学习课程 一. 感知机Proceptron 1. 感知机是根据输入实例的特征向量$x$对其进行二类分类的线性分类模型：$f(x)=\operatorname{sign}(w \cdot x+b)$，感知机模型对应于输入空间（特征空间）中 ...
分类：
其他好文 时间：
2020-04-10 19:43:53
阅读次数：
140
判别方法 ：由数据直接学习 决策函数 Y=f(X),或者由条件分布概率P(Y|X)作为预测模型为判别模型。 常见的 判别模型 有线性回归、boosting、SVM、决策树、感知机、线性判别分析(LDA)、逻辑斯蒂回归等算法。 生成方法 ：由数据学习x和y的 联合概率密度分布函 数P(Y,X)，然后通 ...
分类：
其他好文 时间：
2020-04-04 16:16:08
阅读次数：
86
一、单层感知机（Perceptron） 1、定义：多个输入直接加权求和后，得到一个输出节点，经过激活函数，得到一个值 2、单层感知机求导 导数结果，只与激活函数 O0 和 输入节点 xj 有关 3、pytorch中实现单层感知机 二、多层感知机 多层感知机求导： 多层感知机pytorch的实现： ...
分类：
其他好文 时间：
2020-03-31 17:16:19
阅读次数：
64
