这是分类算法。之前的回归问题尝试预测的变量y是连续变量,在这个分类算法中,变量y是离散的,y只取{0,1}两个值。一般这种离散二值分类问题用线性回归效果不好。比如x3,y=1,那么当x>3的样本占得比例很大是,线性回归的直线斜率就会越来越小,y=0.5时对应的x判决点就会比3大,造成预测错误。若y取...
分类:
其他好文 时间:
2014-10-19 18:21:19
阅读次数:
179
在logistic方法中,g(z)会生成[0,1]之间的小数,但如何是g(z)只生成0或1?所以,感知器算法将g(z)定义如下:同样令,和logistic回归的梯度上升算法类似,学习规则如下:尽管看起来和之前的学习算法类似,但感知器算法是一种非常简便的学习算法,临界值和输出只能是0或1,是比logi...
分类:
编程语言 时间:
2014-10-19 18:19:15
阅读次数:
240
昨天学习完了Ng的第二课,总结如下:过拟合;欠拟合;参数学习算法;非参数学习算法局部加权回归KD tree最小二乘中心极限定律感知器算法sigmod函数梯度下降/梯度上升二元分类logistic回归
分类:
其他好文 时间:
2014-10-19 17:03:42
阅读次数:
302
参数学习算法(parametric learning algorithm)定义:参数学习算法是一类有固定数目参数,以用来进行数据拟合的算法。设该固定的参数集合为。线性回归即使参数学习算法的一个例子非参数学习算法(Non-parametric learning algorithm)定义:一个参数数量会...
分类:
编程语言 时间:
2014-10-19 17:03:18
阅读次数:
483
隐马模型是一个不复杂但在NLP上最有效、快速的方法。1.通信模型 自然语言和通信的联系是天然的,当自然语言处理问题回归到通信系统中的解码问题时,很多难题就迎刃而解了。 前面已经说了,我们把说话看作是一种编码方式,然后通过喉咙、空气传播,听到话的人的耳朵接收,再理解说的话,也就是语音识别。如果...
分类:
其他好文 时间:
2014-10-18 20:58:19
阅读次数:
194
本文主要讲解在matlab中实现Linear Regression和Logistic Regression的代码,并不涉及公式推导。具体的计算公式和推导,相关的机器学习文章和视频一大堆,推荐看Andrew NG的公开课。一、线性回归(Linear Regression)方法一、利用公式 :funct...
分类:
其他好文 时间:
2014-10-18 03:00:32
阅读次数:
357
要说android的自动化,那真是折腾死我了,从早期的monkeyrunner,到后来的robotium,再到最新的uiautomator,各有各的问题,总之性价比都不够高,不太适合我的使用场景。于是不愿意将研究结果投入实践,一直等待。今年的适配问题越发突出,再不自动化,回归就该搞死人了。于是最后研...
分类:
移动开发 时间:
2014-10-17 21:45:13
阅读次数:
227
机器学习有着丰富的理论,分为有监督学习和无监督学习,有监督学习包括分类和回归,无监督学习包括聚类等。各种机器学习算法的基本思想都不难理解(这里的基本思想我的理解是各个算法的模型建立),而难点在于对于模型的求解,这里边有着优美的理论还有一些技巧,如SVM,EM,CA..
分类:
编程语言 时间:
2014-10-17 05:25:44
阅读次数:
619
PS:这些是今年4月份,跟斯坦福UFLDL教程时的实验报告,当时就应该好好整理的…留到现在好凌乱了Softmax Regression实验报告1.Softmax Regression实验描述 Softmax回归模型是逻辑回归模型的推广,它可以把数据分类到两个以上的类别。在本实验中,我们的目标是采用S...
分类:
其他好文 时间:
2014-10-16 23:49:33
阅读次数:
836