ps：本博客内容根据唐宇迪的的机器学习经典算法 学习视频复制总结而来 http://www.abcplus.com.cn/course/83/tasks 逻辑回归 问题描述：我们将建立一个逻辑回归模型来预测一个学生是否被大学录取。假设你是一个大学系的管理员，你想根据两次考试的结果来决定每个申请人的录 ...
分类：
编程语言 时间：
2018-01-25 21:47:46
阅读次数：
644
（一）认识回归 回归是统计学中最有力的工具之中的一个。机器学习监督学习算法分为分类算法和回归算法两种，事实上就是依据类别标签分布类型为离散型、连续性而定义的。顾名思义。分类算法用于离散型分布预測，如前面讲过的KNN、决策树、朴素贝叶斯、adaboost、SVM、Logistic回归都是分类算法。回归 ...
分类：
编程语言 时间：
2017-07-31 10:13:40
阅读次数：
240
函数名称均为sklearn库中的函数 1.线性回归算法：LinearRegression： 其中常用的有：Ridge:岭回归算法，MultiTaskLasso:多任务LASSO回归算法，ElasticNet:弹性网眼算法，LassoLars:LARS套索算法，OrthogonalMatchingPu ...
分类：
编程语言 时间：
2017-07-17 22:04:28
阅读次数：
695
更新：文章迁移到了这里。http://lanbing510.info/2014/11/07/Neural-Network.html，有对应的PPT链接。 注：整理自向世明老师的PPT 看不到图片的同学能够直接打开链接：https://app.yinxiang.com/shard/s31/sh/613 ...
分类：
编程语言 时间：
2017-07-03 12:28:13
阅读次数：
281
ID3决策树实现源码（Python版）,机器学习经典算法起步阶段，欢迎讨论交流。 ...
分类：
编程语言 时间：
2017-05-30 18:02:09
阅读次数：
290
（一）KNN依旧是一种监督学习算法 KNN（K Nearest Neighbors,K近邻 ）算法是机器学习全部算法中理论最简单。最好理解的。KNN是一种基于实例的学习，通过计算新数据与训练数据特征值之间的距离，然后选取K（K>=1）个距离近期的邻居进行分类推断（投票法）或者回归。假设K=1。那么新 ...
分类：
编程语言 时间：
2017-05-06 11:45:52
阅读次数：
562
一、单变量线性回归： 1.数据集可视化 2.求解模型参数 对于线性回归模型，有两种方法可以求解模型参数。 1） 梯度下降法 将代价函数代入展开： Matlab代码实现： 2） 正规方程 Matlab代码实现： 关于正规方程的推导： 3）梯度下降法和正规方程比较 由控制台输出模型参数和回归直线可知，两 ...
分类：
编程语言 时间：
2016-11-29 06:42:11
阅读次数：
182
原文：http://blog.csdn.net/suipingsp/article/details/41645779支持向量机基本上是最好的有监督学习算法，因其英文名为supportvectormachine，简称SVM。通俗来讲，它是一种二类分类模型，其基本模型定义为特征空间上的间隔最大的线性分类...
分类：
编程语言 时间：
2015-08-16 11:59:01
阅读次数：
240
前言 在机器学习经典算法中，决策树算法的重要性想必大家都是知道的。不管是ID3算法还是比如C4.5算法等等，都面临一个问题，就是通过直接生成的完全决策树对于训练样本来说是“过度拟合”的，说白了是太精确了。由于完全决策树对训练样本的特征描述得“过于精确” ,无法实现对新样本的合理分析, 所以此时它不....
分类：
编程语言 时间：
2015-07-11 16:20:16
阅读次数：
220
聚类是一种无监督的学习（无监督学习不依赖预先定义的类或带类标记的训练实例），它将相似的对象归到同一个簇中，它是观察式学习，而非示例式的学习，有点像全自动分类。说白了，聚类（clustering）是完全可以按字面意思来理解的——将相同、相似、相近、相关的对象实例聚成一类的过程。机器学习中常见的聚类算法包括 k-Means算法、期望最大化算法（Expectation Maximization，EM，参考“EM算法原理”）、谱聚类算法（参考机器学习算法复习-谱聚类）以及人工神经网络算法，本文阐述的是K-均值聚类算...
分类：
编程语言 时间：
2015-01-07 16:49:33
阅读次数：
245
