这里主要是贴出我个人实现的代码做出以下测试说明1 分类并不能百分百正确，可能存在一些点无法正确分类的情况2 由于没有引入代价函数，也没有使用梯度算法，这个学习率并不是非常准确，分离超平面可能不正确。同样的参数下，可以多运行几次，会出现正确的结果的。3 希望感兴趣的朋友可以去实验以下，调整双月间距，多 ...
分类：
其他好文 时间：
2017-12-15 20:52:29
阅读次数：
158
最近在GitHub上学习了有关python实现常见机器学习算法 目录 一、线性回归 1、代价函数 2、梯度下降算法 3、均值归一化 4、最终运行结果 5、使用scikit-learn库中的线性模型实现 二、逻辑回归 1、代价函数 2、梯度 3、正则化 4、S型函数 5、映射为多项式 6、使用的优化方 ...
分类：
编程语言 时间：
2017-12-15 16:21:45
阅读次数：
322
1损失函数和代价函数的区别： 损失函数(Loss function)：指单个训练样本进行预测的结果与实际结果的误差。 代价函数(Cost function)：整个训练集，所有样本误差总和(所有损失函数总和)的平均值。（这一步体现在propagate()函数中的第32行） ...
分类：
其他好文 时间：
2017-11-24 22:45:32
阅读次数：
221
全文转载自： softmax的log似然代价函数（公式求导） 在人工神经网络（ANN）中，Softmax通常被用作输出层的激活函数。这不仅是因为它的效果好，而且因为它使得ANN的输出值更易于理解。同时，softmax配合log似然代价函数，其训练效果也要比采用二次代价函数的方式好。 1. softm ...
分类：
其他好文 时间：
2017-11-10 18:39:44
阅读次数：
146
版权声明：本文为博主原创文章,转载请指明转载地址 一、纲要 欠拟合和过拟合 代价函数正则化 正则化线性回归 正则化逻辑回归 二、内容详述 1、欠拟合和过拟合 欠拟合，也叫高偏差，就是没有很好的拟合数据集的情况。如下图中的左图所示 过拟合，也叫高方差，就是虽然高阶多项式可以完美的拟合所有的数据，但会导 ...
分类：
其他好文 时间：
2017-10-22 23:42:46
阅读次数：
466
http://www.jianshu.com/p/75f7e60dae95 作者：陈迪豪 来源：CSDNhttp://dataunion.org/26447.html 交叉熵介绍 交叉熵（Cross Entropy）是Loss函数的一种（也称为损失函数或代价函数），用于描述模型预测值与真实值的差距大 ...
分类：
编程语言 时间：
2017-10-20 18:43:50
阅读次数：
192
梯度下降是一个用于求解函数最小值的算法。在机器学习问题上，我们通常会得出模型的代价函数，用于评估模型与真实情况之间的差距。通常我们在确定模型时，会将代价函数取最小时的参数值作为我们模型的最终参数。而，在"找出使得代价函数取最小时的参数值"这一重要步骤的求解过程中，我们通常会见到梯度下降大法的身影。梯 ...
分类：
其他好文 时间：
2017-10-17 15:15:06
阅读次数：
113
通过PAI中的流程，学习到本实例中的流程。数据预处理——特征扩充——数据切分——类型转换——归一化——缺失值填充——模型训练——预测（可视化） 通过不同特征之间的组合产生新的特征 用户购买就是一个二分类，即：买、不买 上面的error是一个梯度——生成值与目标的差值。这个差值其实就是下图中的代价函数 ...
分类：
其他好文 时间：
2017-10-08 14:47:06
阅读次数：
163
通过PAI中的流程，学习到本实例中的流程。数据预处理——特征扩充——数据切分——类型转换——归一化——缺失值填充——模型训练——预测（可视化） 通过不同特征之间的组合产生新的特征 用户购买就是一个二分类，即：买、不买 上面的error是一个梯度——生成值与目标的差值。这个差值其实就是下图中的代价函数 ...
分类：
其他好文 时间：
2017-10-08 14:08:56
阅读次数：
145
线性回归假设 代价函数－－－均方误差 最小化样本内代价函数 只有满秩方阵才有逆矩阵 线性回归算法流程 线性回归算法是隐式迭代的 线性回归算法泛化可能的保证 线性分类是近似求解，线性回归是解析求解， 线性分类中使用0/1误差，线性回归中使用均方误差， 误差方面，线性分类能小于线性回归， 但线性回归速度 ...
分类：
其他好文 时间：
2017-10-08 12:13:19
阅读次数：
144
