1. Multiple features（多维特征） 在机器学习之单变量线性回归（Linear Regression with One Variable）我们提到过的线性回归中，我们只有一个单一特征量（变量）——房屋面积x。我们希望使用这个特征量来预测房子的价格。我们的假设在下图中用蓝线划出： 不妨...
分类：
其他好文 时间：
2014-10-27 22:46:14
阅读次数：
323
问题：现在有两个字符串，我们要寻找它们最长的公共子串。比如regression和express这两个字符串，它们的子串有e和ress，那么它们的最长公共字串就是ress。解法：我们利用一个二维数组来记录两个字符串相互匹配的情况，如果字符串str1长度为len1，字符串str2长度为len2，那么数组...
分类：
其他好文 时间：
2014-10-24 20:43:43
阅读次数：
300
机器学习实战中也详细描述了梯度上升算法，附件里是一些笔记，再贴一个还不错的帖子转http://blog.csdn.net/wyb_009/article/details/9205151这个算法搞得 我晚上十点打电话给弟弟，问Ln(x)，1/x的导数公式。很惭愧，大学时被我用的出神入化、化成灰我都能认...
分类：
编程语言 时间：
2014-10-24 10:24:57
阅读次数：
894
这是分类算法。之前的回归问题尝试预测的变量y是连续变量，在这个分类算法中，变量y是离散的，y只取{0,1}两个值。一般这种离散二值分类问题用线性回归效果不好。比如x3，y=1，那么当x>3的样本占得比例很大是，线性回归的直线斜率就会越来越小，y=0.5时对应的x判决点就会比3大，造成预测错误。若y取...
分类：
其他好文 时间：
2014-10-19 18:21:19
阅读次数：
179
在logistic方法中，g(z)会生成[0,1]之间的小数，但如何是g(z)只生成0或1？所以，感知器算法将g(z)定义如下：同样令，和logistic回归的梯度上升算法类似，学习规则如下：尽管看起来和之前的学习算法类似，但感知器算法是一种非常简便的学习算法，临界值和输出只能是0或1，是比logi...
分类：
编程语言 时间：
2014-10-19 18:19:15
阅读次数：
240
昨天学习完了Ng的第二课，总结如下：过拟合；欠拟合；参数学习算法；非参数学习算法局部加权回归KD tree最小二乘中心极限定律感知器算法sigmod函数梯度下降/梯度上升二元分类logistic回归
分类：
其他好文 时间：
2014-10-19 17:03:42
阅读次数：
302
本文主要讲解在matlab中实现Linear Regression和Logistic Regression的代码，并不涉及公式推导。具体的计算公式和推导，相关的机器学习文章和视频一大堆，推荐看Andrew NG的公开课。一、线性回归（Linear Regression）方法一、利用公式 :funct...
分类：
其他好文 时间：
2014-10-18 03:00:32
阅读次数：
357
PS:这些是今年4月份，跟斯坦福UFLDL教程时的实验报告，当时就应该好好整理的…留到现在好凌乱了Softmax Regression实验报告1.Softmax Regression实验描述 Softmax回归模型是逻辑回归模型的推广，它可以把数据分类到两个以上的类别。在本实验中，我们的目标是采用S...
分类：
其他好文 时间：
2014-10-16 23:49:33
阅读次数：
836
回归： 在数学上来说是给定一个点集，能够用一条曲线去拟合之，如果这个曲线是一条直线，那就被称为线性回归，如果曲线是一条二次曲线，就被称为二次回归，回归还有很多的变种，如locally weighted回归，logistic回归，等等。训练集(training set)或者训练数据(traini...
分类：
其他好文 时间：
2014-10-16 00:42:01
阅读次数：
165
回归与梯度下降：回归在数学上来说是给定一个点集，能够用一条曲线去拟合之，如果这个曲线是一条直线，那就被称为线性回归，如果曲线是一条二次曲线，就被称为二次回归，回归还有很多的变种，如locally weighted回归，logistic回归，等等，这个将在后面去讲。用一个很简单的例子来说明回归，这个例...
分类：
其他好文 时间：
2014-10-16 00:32:31
阅读次数：
401
