梯度下降法 梯度下降法（英语：Gradient descent）是一个一阶最优化算法，通常也称为最速下降法。 要使用梯度下降法找到一个函数的局部极小值，必须向函数上当前点对应梯度（或者是近似梯度）的反方向的规定步长距离点进行迭代搜索。如果相反地向梯度正方向迭代进行搜索，则会接近函数的局部极大值点；这 ...
分类：
其他好文 时间：
2020-01-24 17:28:40
阅读次数：
113
本文始发于个人公众号： TechFlow 今天这篇文章和大家聊聊 期望和方差 。 期望 期望这个概念我们很早就在课本里接触了，维基百科的定义是： 它表示的是一个随机变量的值在每次实验当中可能出现的结果乘上结果概率的总和 。换句话说，期望值衡量的是多次实验下，所有可能得到的状态的平均结果。 我们举两个 ...
分类：
其他好文 时间：
2020-01-24 17:10:35
阅读次数：
287
基本概念 机器学习模型面临的两个主要问题是欠拟合与过拟合。 欠拟合 ，即模型具有较高的 偏差 ，说明模型没有从数据中学到什么，如下左图所示。而 过拟合 ，即模型具有较高的 方差 ，意味着模型的经验误差低而泛化误差高，对新数据的泛化能力差，如下右图所示。 通常，欠拟合是由于模型过于简单或使用数据集的特 ...
分类：
其他好文 时间：
2020-01-23 21:16:34
阅读次数：
135
K-Means算法是典型基于距离的非层次聚类算法，在最小化误差函数的基础上将数据划分为预定的类数K，采用作为相似性的评价指标，即认为2个对象的距离越近，其相似度越大。 1.算法过程 1）从N个样本数据中随机选取K个对象作为初始的聚类中心 2）分别计算每个样本到各聚类中心的距离，将对象分配到距离最近的 ...
分类：
编程语言 时间：
2020-01-23 11:04:46
阅读次数：
105
高斯消元用来求解线性方程组 构造增广矩阵，然后对增广矩阵消元 每次选取这一列绝对值最大的值作为主元，可以避免精度误差，如果发现这一列都为$0$，则方程无解 然后将主元系数化为$1$,矩阵化为上三角矩阵后，便可以回代求解 $code:$ ...
分类：
其他好文 时间：
2020-01-22 21:34:33
阅读次数：
69
问题描述 蒜头君倒了 2 杯热水在杯子里面，第一杯里面有 a 毫升，第二杯里面有 b 毫升。水太热了，蒜头君决定通过轮流倒水的方式来让水冷下来。 每次倒水蒜头君把第一杯的 x%的水倒入第二杯，把第二杯的 y% 的水倒入第一杯(蒜头君有奇特的方法，能让这一过程是同是发生的，没有先后之分)。 蒜头君一直 ...
分类：
其他好文 时间：
2020-01-22 11:09:52
阅读次数：
85
整数：二进制0b 十进制 八进制0 十六进制0x 浮点数：银行业务，关于钱的，Java有个BigDecimal数学工具类，用这个计算。最好完全避免使用浮点数进行比较。因为float 是有限的离散的，它存在一个舍入误差。所以计算结果是一个大约数，只是接近但不等于。 字符：单个字母、数字、汉字，占2个字 ...
分类：
编程语言 时间：
2020-01-21 16:19:18
阅读次数：
80
习题 4.1 试证明对于不含冲突数据 (即特征向量完全相同但标记不同) 的训练集, 必存在与训练集一致 (即训练误差为 0)的决策树. 既然每个标记不同的数据特征向量都不同, 只要树的每一条 (从根解点到一个叶节点算一条) 枝干代表一种向量, 这个决策树就与训练集一致. 4.2 试析使用 "最小训练 ...
分类：
其他好文 时间：
2020-01-20 20:56:27
阅读次数：
459
代价函数：又称损失函数，我的理解是用于更好地拟合样本，得到更合适模型的一个方法。 在线性回归中，假设函数为 hθ(x) = θ0 + θ1 * x ，其中θ0和θ1的变化会引起假设函数的变化，参数的选择决定了我们得到的直线相对于训练集的准确度。 为了让预测值和真实值的误差尽可能小和最小化θ0和θ1， ...
分类：
其他好文 时间：
2020-01-19 12:37:13
阅读次数：
69
BP算法工作流程及数学推导, 核心: 多元函数求偏导, 熟练应用链式法则就搞定了. ...
分类：
编程语言 时间：
2020-01-18 19:41:25
阅读次数：
93
