逻辑回归，相对于线性回归是用来处理目标函数是离散数值的情况。它的映射函数和损失函数分别为： （1） （2） 使用梯度下降法进行求解，得到迭代公式： 逻辑回归的优缺点： 简单， 易于并行、速度快，需要复杂的特征工程， 输入特征需要离散化 SGD算法 对于如上LR的迭代公式来说，我们可以得到GD（Gra ...
分类：
其他好文 时间：
2018-12-14 13:00:31
阅读次数：
361
（1）tf.AggregationMethod是一个类ClassAggregationMethod类拥有的方法主要用于聚集梯度计算偏导数需要聚集梯度贡献，这个类拥有在计算图中聚集梯度的很多方法。比如：ADD_N:所有的梯度被求和汇总，使用"AddN"操作。有一个特点：所有的梯度在聚集之前必须要准备好，DEFAULT:默认聚集方法类方法ADD_NDEFAULTEXPERIMENT
分类：
其他好文 时间：
2018-12-13 21:19:22
阅读次数：
831
主要步骤为： （1）高斯滤波降噪 （2）转换为灰度图 （3）求x方向上的梯度，并转化为 CV_8U （4）求y方向上的梯度，并转化为 CV_8U （5）合并梯度 openCV例程源代码： ...
分类：
其他好文 时间：
2018-12-13 19:15:47
阅读次数：
162
梯度下降是迭代法的一种,可以用于求解最小二乘问题(线性和非线性都可以)。在求解机器学习算法的模型参数，即无约束优化问题时，梯度下降（GradientDescent）是最常采用的方法之一，另一种常用的方法是最小二乘法。在求解损失函数的最小值时，可以通过梯度下降法来一步步的迭代求解，得到最小化的损失函数和模型参数值。反过来，如果我们需要求解损失函数的最大值，这时就需要用梯度上升法来迭代了。在机器学习中
分类：
编程语言 时间：
2018-12-12 17:38:25
阅读次数：
180
正如我们的人脑一样，在一个层次上和神经元网络中有数百万个神经元，这些神经元通过一种称之为synapses（突触）的结构彼此紧紧相连。它可以通过 Axons（轴突），将电信号从一个层传递到另一个层。这就是我们人类学习事物的方式。 每当我们看到、听到、感觉和思考时，一个突触（电脉冲）从层次结构中的一个神 ...
分类：
其他好文 时间：
2018-12-12 13:51:27
阅读次数：
276
2018 年“双 11”的交易额又达到了一个历史新高度 2135 亿。相比十年前，我们的交易额增长了 360 多倍，而交易峰值增长了 1200 多倍。相对应的，系统数呈现爆发式增长。系统在支撑“双 11”过程中的复杂度和难度呈现指数级形式上升趋势。
分类：
其他好文 时间：
2018-12-11 19:49:40
阅读次数：
197
反向传播原理比较简单，先定义损失函数，然后使用梯度下降算法找到最小化损失函数的W和b，梯度下降算法需要计算损失函数对w和b的偏导，求偏导只使用了一个链式法则。 1、反向转播 2、参数更新 η是学习率 ...
分类：
其他好文 时间：
2018-12-10 13:54:50
阅读次数：
318
Gradient Tree Boosting 梯度树提升GTB，又叫做gradient boosting regression tree梯度提升回归树GBRT，有叫做gradient boosting decision tree梯度提升回归树GBDT GBDT 的优点: 对混合型数据的自然处理（异构 ...
分类：
其他好文 时间：
2018-12-10 11:33:19
阅读次数：
465
随机梯度下降批尺寸有什么影响呢？？？ 当数据量足够大的时候可以适当的减小batch_size,由于数据量太大，内存不够。但盲目减少会导致无法收敛，batch_size=1时为在线学习， 也是标准的SGD，这样学习，如果数据量不大，noise数据存在时，模型容易被noise带偏，如果数据量足够大，no ...
分类：
其他好文 时间：
2018-12-08 21:10:27
阅读次数：
315
转：http://www.cnblogs.com/swordfall/p/9517988.html 常见分类模型与算法 1. KNN分类算法原理及应用 1.1 KNN概述 K最近邻（k-Nearest Neighbor，KNN）分类算法是最简单的机器学习算法。 KNN算法的指导思想是“近朱者赤，近墨 ...
分类：
编程语言 时间：
2018-12-08 19:41:03
阅读次数：
233
