AdaBoost，是英文"Adaptive Boosting"（自适应增强）的缩写。 Adaboost算法的思想：在前一轮识别过程中识别错误的样本会在下一轮中提升权重，而那些识别正确的样本会降低权重。 Adaboost算法的原理：（1）将每个样本的权重进行初始化。每一个样本的权重相同（2）训练弱分类 ...
分类：
编程语言 时间：
2021-04-21 11:50:08
阅读次数：
0
欠采样的逻辑中往往会结合集成学习来有效的使用数据，假设正例数据n，而反例数据m个。我们可以通过欠采样，随机无重复的生成（k=n/m）个反例子集，并将每个子集都与相同正例数据合并生成k个新的训练样本。我们在k个训练样本上分别训练一个分类器，最终将k个分类器的结果结合起来，比如求平均值。这就是一个简单的 ...
分类：
其他好文 时间：
2021-04-02 13:19:39
阅读次数：
0
1. 样本量极少可以训练机器学习模型吗？ 在训练样本极少的情况下（几百个、几十个甚至几个样本），现有的机器学习和深度学习模型普遍无法取得良好的样本外表现，用小样本训练的模型很容易陷入对小样本的过拟合以及对目标任务的欠拟合。但基于小样本的模型训练又在工业界有着广泛的需求（单用户人脸和声纹识别、药物研发 ...
分类：
其他好文 时间：
2021-02-01 12:24:44
阅读次数：
0
损失函数 总损失定义为： yi为第i个训练样本的真实值 h(xi)为第i个训练样本特征值组合预测函数 又称最小二乘法 正规方程 理解：X为特征值矩阵，y为目标值矩阵。直接求到最好的结果 缺点：当特征过多过复杂时，求解速度太慢并且得不到结果 其中y是真实值矩阵，X是特征值矩阵，w是权重矩阵 对其求解关 ...
分类：
其他好文 时间：
2021-01-25 11:38:16
阅读次数：
0
k近邻（k-NearestNeighbor，简称kNN）学习是一种常用的监督学习方法，其工作机制非常简单：给定测试样本，基于某种距离度量找出训练集中与其最靠近的k个训练样本，然后基于k个“邻居”的信息来进行预测。1.最近邻检索（NearestNeighborSearch）最近邻检索就是根据数据的相似性，从数据库中寻找与目标数据最相似的项目。这种相似性通常会被量化到空间上数据之间的距离，可以认为数据
分类：
其他好文 时间：
2021-01-02 11:38:02
阅读次数：
0
Windows下使用spyder训练SSD TensorFlow，并进行客流检测 背景 之前的尝试中， "用yolo v3训练自己的模型并进行客流检测" 。得到的结果其实已经很好，增加训练样本和训练周期，最后也取得了如下的效果，但是实际在视频中检测时候，抖动现象还是比较严重的。 尝试使用另一种实时检 ...
分类：
其他好文 时间：
2020-12-25 11:58:25
阅读次数：
0
支持向量机简述 算法思路：先研究在线性可分训练样本集上如何画出一条直线来分开，然后推广到非线性可分的问题上 如果存在一条直线可以分开圆圈和叉，那么在空间中一定存在着无数条直线可以分开圆圈和叉，那一条直线是最好的？ 上图中，相比之下，2号线对于误差的容忍程度更多一些 将分界线平行的向两侧移动，直到接触 ...
分类：
其他好文 时间：
2020-10-18 09:44:58
阅读次数：
11
一、基本术语 1.18泛化：学得模型是否适用于新样本的能力 注：假设样本空间的全体样本服从于一个未知的分布D，我们得到的样本都是独立从D上采样得到的，即“独立同分布”。训练样本越多，地道道关于D的信息越多，也就也可能通过学习得到强泛化能力的模型 1.19归纳：从特殊到一般的“泛化”过程 1.20演绎 ...
分类：
其他好文 时间：
2020-07-21 01:21:58
阅读次数：
82
1.问题描述 有一个函数$f:R\rightarrow R$ ，现在不知道函数 $f(x)$的具体形式，给定满足函数关系的一组训练样本$\left \{ (x_{1},y_{1}),...,(x_{N},y_{N}) \right \}$，N=300，请使用线性回归模型拟合出函数$y=f(x)$。( ...
分类：
其他好文 时间：
2020-07-13 18:48:49
阅读次数：
102
原文地址：https://www.cnblogs.com/Wanggcong/p/4699932.html 一、批量学习 在监督学习的批量方法中，多层感知器的突出权值的调整在训练样本集合的所有N个例子都出现后进行，这构成了训练的一个回合。换句话说，批量学习的代价函数是由平均误差能量定义的。多层感知器 ...
分类：
其他好文 时间：
2020-06-30 16:03:27
阅读次数：
77
