SVM(support vector machine)支持向量机. 1 间隔与支持向量 + 样本集 $D=\{(x_1, y_1), \cdots, (x_m, y_m)\}$, 其中 $x_i\in \mathbb{R}^d, y_i\in\{ 1, 1\}, i=1,\cdots,m$. + 划 ...
分类：
其他好文 时间：
2020-03-15 22:29:19
阅读次数：
82
本教程通过自包含的例子介绍 PyTorch 的基本概念。 要查看格式更加优美的图文并茂的教程，请移步： "http://studyai.com/pytorch 1.4/beginner/pytorch_with_examples.html" PyTorch的核心是提供了两个主要特性: n维Tenso ...
分类：
其他好文 时间：
2020-03-13 21:08:50
阅读次数：
60
1. GAN为什么难以训练? 大多深度模型的训练都使用优化算法寻找损失函数比较低的值。优化算法通常是个可靠的“下山”过程。生成对抗神经网络要求双方在博弈的过程中达到势均力敌（均衡）。每个模型在更新的过程中（比如生成器）成功的“下山”，但同样的更新可能会造成博弈的另一个模型（比如判别器）“上山”。甚至 ...
分类：
其他好文 时间：
2020-03-12 14:37:20
阅读次数：
102
冬天慢慢降临，杭城渐渐肃冷。最近课业任务不十分多，主要在做一些排队论方面的研究。期间得到很多老师的支持，但也同时收到了很多不同乃至相左的指导意见，所以成果也还没有多少成果。另一方面，在做一些优化算法的实践，这个没有投入太多时间，明天要去和老师探讨这方面的东西时，才想起来搁置很久了。 最近还零零碎碎看 ...
分类：
其他好文 时间：
2020-03-11 19:44:57
阅读次数：
54
粒子群优化算法（PSO）是在1995年由Eberhart博士和Kennedy博士一起提出的，它源于对鸟群捕食行为的研究。它的基本核心是利用群体中的个体对信息的共享从而使得整个群体的运动在问题求解空间中产生从无序到有序的演化过程，从而获得问题的最优解。在PSO中，所有的粒子都具有一个位置向量（粒子在解 ...
分类：
其他好文 时间：
2020-03-10 20:18:24
阅读次数：
62
算法介绍 + 算法简介：尺取法，又名two pointers（双指针法），是一种简洁而有效的dp优化算法，常见于将时间复杂度O（$n^2$)的一般dp优化为O（n）。 + 适用条件：限制变量随着指针的单向移动，而呈单调变化。 + 实现细节： 1. 申请两个指针$p_1$,$p_2$。 2. 固定$p ...
分类：
其他好文 时间：
2020-03-05 20:52:17
阅读次数：
75
神经网络在发展过程中，经历了3次起伏，这很重要的原因在于神经网络的优缺点在不同时代得以体现。在理论上讲，只包含单层隐藏层神经网络，可以拟合任何函数，然后这在实际情况中是不常用的。往往采用含多层隐藏层的神经网络来对数据进行拟合。一、缺点及有效的措施1、在早期，由于BP算法还没有发明，并且当时的计算能力 ...
分类：
其他好文 时间：
2020-03-03 21:03:42
阅读次数：
172
torch.optim.SGD class torch.optim.SGD(params, lr=<object object>, momentum=0, dampening=0, weight_decay=0, nesterov=False) 功能: 可实现SGD优化算法，带动量SGD优化算法，带 ...
分类：
其他好文 时间：
2020-03-02 23:04:01
阅读次数：
118
目录 简述 梯度下降与梯度上升 梯度下降法算法详解 梯度下降法大家族（BGD，SGD，MBGD） 梯度下降法和其他无约束优化算法的比较 总结 在求解机器学习算法的模型参数，即无约束优化问题时，梯度下降（Gradient Descent）是最常采用的方法之一，另一种常用的方法是最小二乘法(在【2】中已... ...
分类：
其他好文 时间：
2020-02-23 21:50:51
阅读次数：
65
socket的粘包为在数据量小与时间间隔短的情况下 优化算法使数据减少IO以达到提高效率，减少网络IO的一种方式 socket下的send与recv并不是一对一的 可以一对多 多对一即可 粘包主要是接收端不知所接收的大小(即不知数据的开头与结尾) 只要明确数据的大小 即可解决粘包导致的缺点 一般可以 ...
分类：
其他好文 时间：
2020-02-23 18:37:06
阅读次数：
77
