回归是统计学中最有力的工具之一。回归算法用于连续型分布预测，针对的是数值型的样本，使用回归，可以在给定输入的时候预测出一个数值，这是对分类方法的提升，因为这样可以预测连续型数据而不仅仅是离散的类别标签。回归的目的就是建立一个回归方程用来预测目标值，回归的求解就是求这个回归方程的回归系数。预测的方法当然十分简单，回归系数乘以输入值再全部相加就得到了预测值。说到回归，常常指的也就是线性回归，因此本文阐述的就是多元线性回归方程的求解和应用，通过Python实现。...
分类：
编程语言 时间：
2014-12-23 14:02:03
阅读次数：
822
logistic回归一般用于二分类问题，比如判断一封邮件是否为垃圾邮件，判断照片中的人是男是女，预测一场比赛输还是赢......当然也可以用于多分类问题，比如k类别，就进行k次logistic回归。logistic回归算法之所以称作“logistic”，是因为它运用了logistic函数，即sigmoid函数。
logistic回归算法一般用于二分类问题（当然也可以多类别，后面会讲）。
logistic回归的算法思想：
重点在于怎么根据训练数据求得最佳拟合参数Θ？这可以用最优化算法来求解，比如常用的梯度上升...
分类：
编程语言 时间：
2014-12-10 14:18:25
阅读次数：
502
线性回归算法优缺点：优点：结果易于理解，计算不复杂缺点：对非线性数据拟合不好适用数据类型：数值型和标称型算法思想：这里是采用了最小二乘法计算（证明比较冗长略去）。这种方式的优点是计算简单，但是要求数据矩阵X满秩，并且当数据维数较高时计算很慢；这时候我们应该考虑使用梯度下降法或者是随机梯度下降（同Lo...
分类：
其他好文 时间：
2014-12-06 01:21:06
阅读次数：
892
原文:《BI那点儿事》数据挖掘各类算法——准确性验证准确性验证示例1：——基于三国志11数据库
数据准备：
挖掘模型：依次为：Naive Bayes 算法、聚类分析算法、决策树算法、神经网络算法、逻辑回归算法、关联算法提升图：
依次排名为： 1. 神经网络算法（92.69% 0.99）2. 逻辑回归...
分类：
编程语言 时间：
2014-12-02 10:32:29
阅读次数：
222
原文:《BI那点儿事》Microsoft 逻辑回归算法——预测股票的涨跌数据准备：一组股票历史成交数据（股票代码：601106 中国一重），起止日期：2011-01-04至今，其中变量有“开盘”、“最高”、“最低”、“收盘”、“总手”、“金额”、“涨跌”等 UPDATE FactStock
SET ...
分类：
编程语言 时间：
2014-12-02 10:24:11
阅读次数：
237
原文:《BI那点儿事》Microsoft 线性回归算法Microsoft 线性回归算法是 Microsoft 决策树算法的一种变体，有助于计算依赖变量和独立变量之间的线性关系，然后使用该关系进行预测。该关系采用的表示形式是最能代表数据序列的线的公式。例如，以下关系图中的线是数据最可能的线性表示形式。...
分类：
编程语言 时间：
2014-12-02 10:15:52
阅读次数：
208
准确性验证示例1：——基于三国志11数据库数据准备：挖掘模型：依次为：Naive Bayes 算法、聚类分析算法、决策树算法、神经网络算法、逻辑回归算法、关联算法提升图：依次排名为： 1. 神经网络算法（92.69% 0.99）2. 逻辑回归算法（92.39% 0.99）3. 决策树算法（91.19...
分类：
编程语言 时间：
2014-12-01 20:43:18
阅读次数：
196
Logistic回归算法优缺点：1.计算代价不高，易于理解和实现2.容易欠拟合，分类精度可能不高3.适用数据类型：数值型和标称型算法思想：其实就我的理解来说，logistic回归实际上就是加了个sigmoid函数的线性回归，这个sigmoid函数的好处就在于，将结果归到了0到1这个区间里面了，并且s...
分类：
编程语言 时间：
2014-11-24 00:49:02
阅读次数：
575
数据准备：一组股票历史成交数据（股票代码：601106 中国一重），起止日期：2011-01-04至今，其中变量有“开盘”、“最高”、“最低”、“收盘”、“总手”、“金额”、“涨跌”等UPDATE FactStockSET [涨跌] = N'涨'WHERE [涨幅] > 0UPDATE...
分类：
编程语言 时间：
2014-11-19 22:08:56
阅读次数：
330
Microsoft 线性回归算法是 Microsoft 决策树算法的一种变体，有助于计算依赖变量和独立变量之间的线性关系，然后使用该关系进行预测。该关系采用的表示形式是最能代表数据序列的线的公式。例如，以下关系图中的线是数据最可能的线性表示形式。关系图中的每个数据点都有一个与该数据点与回归线之间距离...
分类：
编程语言 时间：
2014-11-19 14:01:13
阅读次数：
213
