logistic回归，是一种广义的线性回归分析模型，logistic回归的因变量可以是二分类的，也可以是多分类的，但是二分类的更为常用。 一、逻辑回归定义 假设在多个独立自变量𝑥1，𝑥2，… 作用下，记y取1的概率是p=P(y=1|X)，取0的概率则为1-p 取1和取0的概率之比为p/(1-p) ...
分类：
编程语言 时间：
2018-09-03 19:29:41
阅读次数：
229
1. Shrinkage（缩减） Methods 当特征比样本点还多时（n>m），输入的数据矩阵X不是满秩矩阵，在求解(XTX)-1时会出现错误。接下来主要介绍岭回归（ridge regression）和前向逐步回归（Foward Stagewise Regression）两种方法。 1.1 岭回归 ...
分类：
其他好文 时间：
2018-08-26 18:21:18
阅读次数：
250
简介 Logistic回归是一种机器学习分类算法，用于预测分类因变量的概率。 在逻辑回归中，因变量是一个二进制变量，包含编码为1（是，成功等）或0（不，失败等）的数据。 换句话说，逻辑回归模型预测P（Y = 1）是X的函数。 数据 该数据集来自UCI机器学习库，它与葡萄牙银行机构的直接营销活动（电话 ...
分类：
其他好文 时间：
2018-08-26 01:14:34
阅读次数：
520
1.简单的线性回归 假定输入数据存放在矩阵X中，而回归系数存放在向量W中，则对于给定的数据X1，预测结果将会是 这里的向量都默认为列向量 现在的问题是手里有一些x和对应的y数据，怎样才能找到W呢？一个常用的方法是找到使误差最小的W，这里的误差是指预测y值与真实y值之间的差值，使用该误差的简单累加将使 ...
分类：
其他好文 时间：
2018-08-24 00:38:35
阅读次数：
203
https://blog.csdn.net/jialibang/article/details/78181410 Matlab要学习 python也要学 书 冈萨雷斯的《数字图像处理》 《MATLAB图像处理实例详解》 《机器学习实战》 《泛函分析》 《最优化算法》 《矩阵分析》 ...
分类：
其他好文 时间：
2018-08-23 23:12:05
阅读次数：
243
在本节中，我们介绍Softmax回归模型，该模型是logistic回归模型在多分类问题上的推广，在多分类问题中，类标签 可以取两个以上的值。 Softmax回归模型对于诸如MNIST手写数字分类等问题是很有用的，该问题的目的是辨识10个不同的单个数字。Softmax回归是有监督的，不过后面也会介绍它 ...
分类：
其他好文 时间：
2018-08-23 23:10:36
阅读次数：
204
逻辑斯蒂回归: 逻辑斯蒂回归是统计学习中的经典分类方法，属于对数线性模型。logistic回归的因变量可以是二分类的， 也可以是多分类的 基本原理 logistic 分布 折X是连续的随机变量，X服从logistic分布是指X具有下列分布函数和密度函数: 其中为位置参数，为形状参数。与图像如下，其中 ...
分类：
其他好文 时间：
2018-08-22 14:03:12
阅读次数：
323
将不同的分类器组合起来，这种组合结果被称为集成方法或元算法（meta-algorithm）。 使用集成方法时会有多种形式：（1）可以是不同算法的集成（2）可以是同一种算法在不同设置下的集成（3）数据集不同部分分配给不同分类器之后的集成，等等 接下来介绍基于同一种分类器多个不同实例的两种不同计算方法b ...
分类：
编程语言 时间：
2018-08-20 01:09:33
阅读次数：
248
这两天翻了一下机器学习实战这本书，算法是不错，只是代码不够友好，作者是个搞算法的，这点从代码上就能看出来。可是有些地方使用numpy搞数组，搞矩阵，总是感觉怪怪的，一个是需要使用三方包numpy，虽然这个包基本可以说必备了，可是对于一些新手，连pip都用不好，装的numpy也是各种问题，所以说能不用 ...
分类：
编程语言 时间：
2018-08-20 00:29:33
阅读次数：
215
http://blog.itpub.net/31542119/viewspace-2199810/ 线性和逻辑斯蒂（Logistic）回归通常是是机器学习学习者的入门算法，因为它们易于使用和可解释性。然而，尽管他们简单但也有一些缺点，在很多情况下它们并不是最佳选择。实际上存在很多种回归模型，每种都有 ...
分类：
其他好文 时间：
2018-08-11 12:25:15
阅读次数：
227
