一、基本术语 1、标签和特征 标签一般指的是我们要预测的真实事务，在图3中，我们用y坐标的值进行表示。 特征是指用于描述数据的输入变量，一般使用{x1,x2,…,xn}进行表示，在图3所示的线性回归问题中只有一个x轴。 2、样本和模型 样本是指数据的特定实例：x ，有标签样本具有{特征，标签}：{x ...
分类：
其他好文 时间：
2020-10-06 20:30:54
阅读次数：
23
梯度下降算法是求解最优化问题 梯度下降是优化一个损失函数L(y,f(x))，处理的粒度是更新参数w，使得最后的损失函数最小 ...
分类：
其他好文 时间：
2020-09-17 22:31:00
阅读次数：
19
郑重声明：原文参见标题，如有侵权，请联系作者，将会撤销发布！ NeurIPS, (2018) Abstract 我们提出了一种元学习方法，用于学习基于梯度的RL算法。这个想法是要逐步形成一种可微的损失函数，这样智能体就可以通过优化其策略以最大程度地减少这种损失，获得较高的奖励。损失是通过代理经验的时 ...
分类：
其他好文 时间：
2020-09-17 17:24:54
阅读次数：
23
在FNN（DNN）的前向传播，反向梯度推导以及代码验证中，我们不仅总结了FNN（DNN）这种神经网络结构的前向传播和反向梯度求导公式，还通过tensorflow的自动求微分工具验证了其准确性。在本篇章，我们将专门针对CNN这种网络结构进行前向传播介绍和反向梯度推导。更多相关内容请见《神经网络的梯度推 ...
分类：
其他好文 时间：
2020-09-17 12:17:39
阅读次数：
25
1. 简介 随着神经网络的进一步加深，可能会出现如下问题： （1）梯度消失、梯度爆炸 （2）退化问题--训练集上准确率下降（不等于过拟合--表现为在训练集上表现更好） ResNet是2015年ILSVRC 比赛2015第一名的算法。主要是针对更深的神经网络难以训练的问题，提出了一种残差学习的结构，不 ...
分类：
Web程序 时间：
2020-09-12 21:11:26
阅读次数：
46
本文主要总结集成学习（ensemble learning）中一大类boosting模型--梯度提升。主要包括GBDT, XGBoost, LightBoost, CatBoost 这4种模型的原理，以及关于这4个模型的简单示例。 ...
分类：
其他好文 时间：
2020-09-08 20:50:31
阅读次数：
37
1、什么叫回归算法: 常见的回归算法有: 线性回归、Logistic回归、Softmax回归...... ① 回归算法属于一种有监督学习 ② 回归算法是一种比较常用的机器学习算法，用来建立自变量(x)与因变量(y)之间的关系；从机器学习的角度来讲，用于构建一个算法模型(函数)来做属性(x)与标签(y ...
分类：
编程语言 时间：
2020-09-03 16:55:20
阅读次数：
39
1. 方案简介 1.1 图像增强算法 1.2 Scharr滤波 1.3边缘梯度幅值及方向角度 1.4 分块统计边缘一致性 1.5 条码区域定位 2. 样本测试 ...
分类：
编程语言 时间：
2020-08-17 17:09:08
阅读次数：
67
特点：具有超线性收敛速度，只需要计算梯度，避免计算二阶导数 算法步骤 \(step0:\) 给定初始值$x_0$,容许误差$\epsilon$ \(step1:\) 计算梯度$g_k=\nabla f(x_k)$,if \(norm(g_k)<=\epsilon\)， \(break;\) 输出当前 ...
分类：
编程语言 时间：
2020-08-09 20:21:06
阅读次数：
98
import numpy as np import pandas as pd import matplotlib.pyplot as plt %matplotlib inline from sklearn.linear_model import LinearRegression data = pd. ...
分类：
其他好文 时间：
2020-08-08 17:34:03
阅读次数：
74
