形式：
采用sigmoid函数：g(z)=11+e?zg(z)=\frac{1}{1+e^{-z}}
其导数为g′(z)=(1?g(z))g(z)g^\prime(z)=(1-g(z))g(z)
假设：
即：
若有m个样本，则似然函数形式是：
对数形式：
采用梯度上升法求其最大值
求导：
更新规则为：
可以发现，则个规则形式上和LMS更新规则是一样...
分类：
编程语言 时间：
2016-04-22 19:32:34
阅读次数：
314
形式 h(x)=∑i=0nθixi=θTxh(x)=\sum_{i=0}^n\theta_ix_i=\theta^Tx代价函数:J(θ)=12∑i=1m(h(x(i)θ)?y(i))2J(\theta)=\frac{1}{2}\sum_{i=1}^m(h(x_\theta^{(i)})-y^{(i)})^2
LMS(Least Mean Squares)算法参数更新原则
梯度下降法，参数沿着使代价...
分类：
编程语言 时间：
2016-04-22 19:27:11
阅读次数：
143
我们之前学习的算法都是基于p(y|x;θ)p(y|x;\theta), 他的思想是找出找出一个决策边界来将两类分开，而生成算法是先对两个类别分别建模，为了将样本分开，将样本代入两个模型，看样本与哪个类别更匹配。
这种试图直接从输入xx映射到类别标签{0,1}的算法被称为判别学习算法；而通过计算p(x|y)（和p(y)）来得到模型的算法被称为生成学习算法
通过贝叶斯函数得到p(y|x)=p...
分类：
编程语言 时间：
2016-04-22 19:24:16
阅读次数：
281
写这篇文章的目的，就是希望它可以让有志于从事数据科学和机器学习的诸位在学习算法的路上少走些路。我会在文章中举例一些机器学习的问题，你们也可以在思考解决这些问题的过程中得到启发。我也会写下对于各种机器学习算法的一些个人理解，并且提供R和Python的执行代码。读完这篇文章，读者们至少可以行动起来亲手试试写一个机器学习的程序。...
分类：
编程语言 时间：
2016-04-19 21:41:47
阅读次数：
419
写这篇文章的目的，就是希望它可以让有志于从事数据科学和机器学习的诸位在学习算法的路上少走些路。我会在文章中举例一些机器学习的问题，你们也可以在思考解决这些问题的过程中得到启发。我也会写下对于各种机器学习算法的一些个人理解，并且提供R和Python的执行代码。读完这篇文章，读者们至少可以行动起来亲手试试写一个机器学习的程序。...
分类：
编程语言 时间：
2016-04-19 19:40:18
阅读次数：
395
Mahout的中文含义：象夫 Mahout起源 2008年成为Lucene的子顷目，Lucene作为搜索引擎顷目， 存在很多文本数据分析和挖掘的需求（例如文本重复判断，文本自动分类等等）， 导致Lucene顷目中部分开发者转向机器学习领域研究算法，最终这些机器学习算法形成最初的Mahout吸收开源协 ...
分类：
其他好文 时间：
2016-04-19 11:46:15
阅读次数：
182
主要机器学习算法的工程适用性分析前段时间AlphaGo跟李世石的大战及相关的深度学习的新闻刷了一遍又一遍的朋友圈。不过这件事情，也只是在机器学习的深度上进一步拓展，而机器学习的广度（也即工程化实践）上，仍然没有什么突破性的理论或实践，用的领域继续用，不用的领域依然不用。重要性机器学习的使命是使计算机强大的运算能力和存储能力转化为推演能力，能转化是一方面，转化的效率则是另一方面。科研性...
分类：
编程语言 时间：
2016-04-16 18:55:49
阅读次数：
207
不管是实验室研究机器学习算法或是公司研发，都有需要自己改进算法的时候，下面就说说怎么在weka里增加改进的机器学习算法。 一 添加分类算法的流程 1 编写的分类器必须继承 Classifier或是Classifier的子类；下面用比较简单的zeroR举例说明； 2 复写接口 buildClassif ...
分类：
编程语言 时间：
2016-04-15 21:31:08
阅读次数：
625
</form> </form> </form> </form> 【R】如何确定最适合数据集的机器学习算法 【R】如何确定最适合数据集的机器学习算法 发布时间: 2016-02-25 阅读数: 199 抽查(Spot checking)机器学习算法是指如何找出最适合于给定数据集的算法模型。本文中我将介 ...
分类：
编程语言 时间：
2016-04-15 00:16:01
阅读次数：
386
在平时的研究之余，希望每天晚上闲下来的时候，都学习一个机器学习算法，今天看到几篇不错的遗传算法的文章，在这里总结一下。 1 神经网络基本原理 图1. 人工神经元模型 图中x1~xn是从其他神经元传来的输入信号，wij表示表示从神经元j到神经元i的连接权值，θ表示一个阈值 ( threshold )， ...
分类：
编程语言 时间：
2016-04-14 22:25:40
阅读次数：
219
