上期与大家分享的传统分类算法都是建立在判别函数的基础上，通过判别函数值来确定目标样本所属的分类，这类算法有个最基本的假设：线性假设。今天继续和大家分享下比较现代的分类算法：决策树和神经网络。这两个算法都来源于人工智能和机器学习学科。
首先和小伙伴介绍下数据挖掘领域比较经典的Knn（nearest neighbor）算法（最近邻算法）
算法基本思想：
Step1：计算出待测样本与学习集中所有点...
分类：
编程语言 时间：
2014-12-09 10:40:01
阅读次数：
322
MIT 线性代数课程中讲过的矩阵分解有很多种，但是据我所知最重要的应该是SVD分解了，假如现在想把行空间的正交基通过A左乘的方法变换到列空间的正交基，既有：
需要说明的一点是，我们可以轻易得到行空间的正交基，但是并不是所有的A都能满足变换过去后还是正交基的条件，所以，这个A需要满足条件，或者说A和U,V需要满足一定的关系。将上式左右两边都乘以V的转置，就可以得到矩阵奇异值分解的公式，SV...
分类：
其他好文 时间：
2014-12-09 10:35:28
阅读次数：
189
转贴：看到的一个来源是http://blog.sina.com.cn/s/blog_631a4cc40101d00t.html，不确定是否是最原始版本。牛人主页（主页有很多论文代码）Serge Belongieat UC San DiegoAntonio Torralbaat MITAlexei F...
分类：
其他好文 时间：
2014-12-08 21:17:11
阅读次数：
431
惰性学习法：简单的存储数据，一直等待，直到给定一个测试元组时才进行泛化，根据对存储的元组的相似性进行分类。kNN（k近邻）分类方法于20世纪50年代提出，由于计算密集型算法，因此到60年代之后随着计算能力增强后才逐步应用。
kNN基于类比学习，将给定的测试元组表示为n维空间中的一个点，n代表属性数目。然后使用某种距离度量方式来寻找与给定测试元组最近的k个训练元组，对这个k个训练元组的类别进行统计...
分类：
其他好文 时间：
2014-12-08 17:47:16
阅读次数：
262
这次我为 角色 attribute 添加了 多个属性其中 att 是 好人 坏人 等属性， 显然 数字不同 就要打起来。grade 是智商属性 ，今天先做了 3的智商。也就是小兵智商。碰到就打 逃也要追着打distance 是 可攻击距离 ，如果两个物体超过了 这个距离 就继续移动 小于这个距离就打...
分类：
其他好文 时间：
2014-12-08 17:42:08
阅读次数：
239
之前写过一篇blog叫做机器学习实战笔记之非均衡分类问题：http://blog.csdn.net/lu597203933/article/details/38666699其中对Precision和Recall及ROC都有所讲解，其中区别在于Precision,Recall, F-score,
MAP主要用于信息检索，而ROC曲线及其度量指标AUC主要用于分类和识别，ROC的详细介绍见上面的b...
分类：
其他好文 时间：
2014-12-08 14:01:53
阅读次数：
448
第一讲中我们学习了一个机器学习系统的完整框架，包含以下3部分：训练集、假设集、学习算法 一个机器学习系统的工作原理是：学习算法根据训练集，从假设集合H中选择一个最好的假设g，使得g与目标函数f尽可能低接近。H称为假设空间，是由一个学习模型的参数决定的假设构成的一个空间。而我们这周就要学习一个特定的....
分类：
其他好文 时间：
2014-12-08 00:38:06
阅读次数：
466
我们把做好的 角色 拖到 内存池，如图所示，这样我们可以动态生成角色并给予他 寻路目标。 //逗留碰撞 void OnTriggerStay(Collider other) { if (other.transform.name == otherName) {...
分类：
其他好文 时间：
2014-12-07 21:39:49
阅读次数：
247
1 我爱自然语言处理 http://www.52nlp.cn/2 统计之都 http://cos.name/机器学习会议及期刊1 http://machinelearning.wustl.edu/mlpapers/venues
分类：
Web程序 时间：
2014-12-07 13:47:54
阅读次数：
139
好久没更新博客了，之前学了一些R语言和机器学习的内容，做了一些笔记，之后也会放到博客上面来给大家共享。一个月前就打算更新Spark Sql的内容了，因为一些别的事情耽误了，今天就简单写点，Spark1.2马上就要出来了，不知道变动会不会很大，据说添加了很多的新功能呢，期待中...首先声明一下这个版本...
分类：
数据库 时间：
2014-12-07 01:20:23
阅读次数：
585
