鉴于July大哥的SVM三层境界(http://blog.csdn.net/v_july_v/article/details/7624837)已经写得非常好了，这里我就不详细描述，只是阐述简单的几个概念。如果看SVM三层境界有困惑，我也愿意与大家交流，共同进步。
简单概念描述：
（1） 支持向量机(SVM, support vectormachine)就是通过最大化支持向量到分类超平...
分类：
其他好文 时间：
2014-08-12 22:11:04
阅读次数：
247
1：简单概念描述
假设现在有一些数据点，我们用一条直线对这些点进行拟合(改线称为最佳拟合直线)，这个拟合过程就称为回归。训练分类器就是为了寻找最佳拟合参数，使用的是最优化算法。
基于sigmoid函数分类：logistic回归想要的函数能够接受所有的输入然后预测出类别。这个函数就是sigmoid函数，它也像一个阶跃函数。其公式如下：
其中： z = w0x0+w1x1+….+wnxn,w...
分类：
其他好文 时间：
2014-08-10 13:04:00
阅读次数：
308
1. softmax回归模型 softmax回归模型是logistic回归模型在多分类问题上的扩展（logistic回归解决的是二分类问题）。 对于训练集，有。 对于给定的测试输入，我们相拥假设函数针对每一个类别j估算出概率值。也就是说，我们估计得每一种分类结果出现的概率。因此我们的假设函数将...
分类：
其他好文 时间：
2014-07-24 12:09:45
阅读次数：
335
机器学习新手，接触的是《机器学习实战》这本书，感觉书中描述简单易懂，但对于python语言不熟悉的我，也有很大的空间。今天学习的是k-近邻算法。 1. 简述机器学习 在日常生活中，人们很难直接从原始数据本身获得所需信息。而机器学习就是把生活中无序的数据转换成有用的信息。例如，对于垃圾邮件的检...
分类：
编程语言 时间：
2014-07-22 23:37:57
阅读次数：
366
决策树的优势就在于数据形式非常容易理解，而kNN的最大缺点就是无法给出数据的内在含义。
1：简单概念描述
决策树的类型有很多，有CART、ID3和C4.5等，其中CART是基于基尼不纯度(Gini)的，这里不做详解，而ID3和C4.5都是基于信息熵的，它们两个得到的结果都是一样的，本次定义主要针对ID3算法。下面我们介绍信息熵的定义。
事件ai发生的概率用p(ai...
分类：
其他好文 时间：
2014-07-21 22:21:08
阅读次数：
360
从今天开始学习python，学习的目的：国外的都是以python做编程入门，去英国前要把课补上今天买了一本机器学习实战，是用python写的，虽然大部分代码能够看懂，但是系统的学习还是很有必要知乎上的大牛很推崇python，一定有道理，学学也无妨在知乎上找了一些python入门的经验，这篇比较中意。...
分类：
编程语言 时间：
2014-07-21 09:31:57
阅读次数：
357
1：算法简单描述
给定训练数据样本和标签，对于某测试的一个样本数据，选择距离其最近的k个训练样本，这k个训练样本中所属类别最多的类即为该测试样本的预测标签。简称kNN。通常k是不大于20的整数，这里的距离一般是欧式距离。
2：python代码实现
创建一个kNN.py文件，将核心代码放在里面了。
(1) 创建数据
#创造数据集
def createDataSet():
...
分类：
其他好文 时间：
2014-07-19 23:24:39
阅读次数：
300
1：如何选择合适的算法
2：python简介
(1) python的优势：相对于matlab，matlab单个软件授权就要花费数千美元，也没有一个有影响力的大型开源项目。相对于c++/c/java，完成简单的操作就需要编写大量的代码；而如今我们应该花费更多的时间去处理数据内在的含义，而无需花费太多精力解决计算机如何得到数据结果(python简洁)
(2) python...
分类：
其他好文 时间：
2014-07-18 21:37:59
阅读次数：
218
接着上次的一篇文章：http://blog.csdn.net/acdreamers/article/details/27365941
在上次这篇文章中，对于Logistic回归问题，我们已经写出它的最大似然函数，现在来求最大似然估计。所以对似
然函数求偏导数，得到了个方程，即
由于我们只要根据这个方程解出所有的即可，但是这不是一件容易的事，还有Logis...
分类：
其他好文 时间：
2014-07-15 10:27:29
阅读次数：
1015
算法&数学：算法导论详细数学离散数学及其应用(选)线性代数及其应用数论及其应用(选)python:python 基础教程python cookbookpython 网络编程基础python in a nutshell集体智慧编程机器学习实战js:dom编程艺术js cookbooklinuxlinu...
分类：
其他好文 时间：
2014-07-14 08:21:40
阅读次数：
303
