这篇博客针对的AndrewNg在公开课中未讲到的，线性回归梯度下降的学习率进行讨论，并且结合例子讨论梯度下降初值的问题。线性回归梯度下降中的学习率上一篇博客中我们推导了线性回归，并且用梯度下降来求解线性回归中的参数。但是我们并没有考虑到学习率的问题。我们还是沿用之前对于线性回归形象的理解：你站在山顶...
分类：
系统相关 时间：
2015-03-29 00:33:32
阅读次数：
300
原文http://blog.csdn.net/maverick1990/article/details/11721453欠拟合与过拟合概念本次课程大纲：1、局部加权回归：线性回归的变化版本2、概率解释：另一种可能的对于线性回归的解释3、Logistic回归：基于2的一个分类算法4、感知器算法：对于3...
分类：
其他好文 时间：
2015-03-28 18:33:49
阅读次数：
179
本系列内容均来自Standford公开课machine learning中Andrew老师的讲解，附加自己的一些编程实现和学习笔记。第一章 Linear regression 1.线性回归线性回归是一种监督学习的方法。线性回归的主要想法是给出一系列数据，假设数据的拟合线性表达式为：如何求得参数θ成为...
分类：
系统相关 时间：
2015-03-28 12:47:22
阅读次数：
214
机器学习说简单就简单，说难就难，但如果一个人不够聪明的话，他大概很难知道机器学习哪里难。基本上要学习机器学习，先修课程是algebra, calculus, probability theory, linear regression。这几门科学好了再学Machine learning是事半功倍的。此...
分类：
其他好文 时间：
2015-03-21 13:52:25
阅读次数：
298
---恢复内容开始---本文件对应logistic.pyamazonaccess介绍：根据入职员工的定位(员工角色代码、角色所属家族代码等特征)判断员工是否有访问某资源的权限logistic.py(python)的关键：1.通过组合组合几个特征来获取新的特征 例如：组合MGR_ID ROLE_FAM...
分类：
数据库 时间：
2015-03-20 17:56:21
阅读次数：
168
那几年，我学习机器学习的主要内容：
1.机器学习基本导论，机器学习入门了解；
2.线性回归与Logistic。xx业绩预测系统，智能交互统计系统等；
3.岭回归，Lasso，变量选择技术。维度的技巧等技术；
4.降维技术。xx指标设计，具体规范；
5.线性分类器，Knn算法，朴素贝叶斯分类器，文本挖掘。XX智能垃圾消息，垃圾邮件判断，评论智能分析，智能监控统计预警系统呀。
6.决策树，组合提升算...
分类：
其他好文 时间：
2015-03-20 14:27:55
阅读次数：
168
本篇内容讲述回归问题中最常用的ridge regression与Lasso，同时深入浅出地探讨稀疏约束，正则，分析了Lasso稀疏的原因。...
分类：
其他好文 时间：
2015-03-20 00:04:57
阅读次数：
322
对线性回归，logistic回归和一般回归 【转自】：http://www.cnblogs.com/jerrylead JerryLead 2011年2月27日 作为一个机器学习初学者，认识有限，表述也多有错误，望大家多多批评指正。1 摘要 本报告是在学习斯坦福大学机器学习课程前四节加上配套的讲义后...
分类：
其他好文 时间：
2015-03-18 10:22:16
阅读次数：
133
最近一直在回顾linear regression model和logistic regression model，但对其中的一些问题都很疑惑不解，知道我看到广义线性模型即Generalized Linear Model后才恍然大悟原来这些模型是这样推导的，在这里与诸位分享一下，具体更多细节可以参.....
分类：
其他好文 时间：
2015-03-13 23:35:14
阅读次数：
166
本节知识点： 贝叶斯统计及规范化 在线学习 如何使用机器学习算法解决具体问题：设定诊断方法，迅速发现问题 贝叶斯统计及规范化（防止过拟合的方法） 就是要找更好的估计方法来减少过度拟合情况的发生。 回顾一下，线性回归中使用的估计方法是最小二乘法，logistic 回归是条件概率的最大似然估计，朴素贝叶...
分类：
其他好文 时间：
2015-03-13 22:08:45
阅读次数：
417
