K-means算法属于无监督学习聚类算法，其计算步骤还是挺简单的，思想也挺容易理解，而且还可以在思想中体会到EM算法的思想。K-means 算法的优缺点：
1.优点：容易实现
2.缺点：可能收敛到局部最小值，在大规模数据集上收敛较慢
使用数据类型：数值型数据以往的回归算法、朴素贝叶斯、SVM等都是有类别标签y的，因此属于有监督学习，而K-means聚类算法只有x，没有y在聚类问题中，我们的...
分类：
编程语言 时间：
2015-04-17 13:54:08
阅读次数：
162
有幸用最近两个月的业余时间把”统计机器学习”一书粗略的学习了一遍，同时结合“模式识别”、“数据挖掘概念与技术”的知识点，对机器学习的一些知识结构进行梳理与总结：
机器学习包括两个主要问题1、学习什么，2、怎么学习。
首先来梳理一下学习什么
一、学习什么
1. 要解决什么问题？机器学习中主要解决以下三类问题：
a) 监督学习问题：给定输入输出集(即人工标记的样本...
分类：
其他好文 时间：
2015-04-14 21:36:54
阅读次数：
165
这节课的学习，相信一般上过统计或者运筹相关课程的同学应该都会有所了解。课上涉及的知识虽然很基础，但是也是很重要的。 在搜集了一些房价相关数据的基础上，利用线性回归算法来预测房价。 为了方便算法的训练推导，进行了很多符号的标准规定，从这当中也学到了一些知识，以后自己在进行一些算法的推导时也可学...
分类：
其他好文 时间：
2015-04-13 22:52:06
阅读次数：
203
之前讲了监督学习和无监督学习，今天主要讲“强化学习”。 马尔科夫决策过程；Markov Decision Process（MDP） 价值函数；value function 值迭代；value iteration(算法，解决MDP) 政策迭代；policy iteration(算法，解决MDP) 什么...
分类：
其他好文 时间：
2015-04-13 22:40:50
阅读次数：
213
机器学习的常用方法，主要分为有监督学习(supervised learning)和无监督学习(unsupervised learning)。监督学习，就是人们常说的分类，通过已有的训练样本（即已知数据以及其对应的输出）去训练得到一个最优模型（这个模型属于某个函数的集合，最优则表示在某个评价准则下是最...
分类：
其他好文 时间：
2015-04-13 09:19:05
阅读次数：
109
本系列内容大部分来自Standford公开课machine learning中Andrew老师的讲解，附加自己的一些理解，编程实现和学习笔记。第一章 Logistic regression1.逻辑回归逻辑回归是一种监督学习的分类算法，相比较之前的线性回归算法，差别在于它是一个分类算法，这也意味着y不...
分类：
其他好文 时间：
2015-04-12 11:56:50
阅读次数：
225
监督学习应用与梯度下降本课内容：1、线性回归2、梯度下降3、正规方程组（复习）监督学习：告诉算法每个样本的正确答案，学习后的算法对新的输入也能输入正确的答案1、线性回归例：Alvin汽车，先让人开车，Alvin摄像头观看（训练），而后实现自动驾驶。本质是一个回归问题，汽车尝试预测行驶方向。例：上一节...
分类：
其他好文 时间：
2015-04-10 19:46:58
阅读次数：
135
斯坦福大学机器学习公开课学习—1.机器学习的动机与应用介绍了课程主要内容包含以下4点1.supervised learning(监督学习)2.learning theory(学习理论)3.unsupervised learning(非监督学习)4.reinforcement le...
分类：
其他好文 时间：
2015-04-08 22:58:34
阅读次数：
207
自去年底开始学习Andrew Ng的机器学习公开课，欲依其课件试着实现部分算法以加深理解，然在此过程中遇到部分问题，或为程序实现，或为算法理解。故而准备将此课程整理，并记录自己的理解，或对或错可共同讨论。 此课程主要包括三部分：监督学习算法、无监督学习算法以及学习理论。监督学习部分讲了回归、生...
分类：
其他好文 时间：
2015-04-08 12:27:20
阅读次数：
109
在机器学习领域，混淆矩阵（confusion matrix），又称为可能性表格或是错误矩阵。它是一种特定的矩阵用来呈现算法性能的可视化效果，通常是监督学习（非监督学习，通常用匹配矩阵：matching matrix）。其每一列代表预测值，每一行代表的是实际的类别。这个名字来源于它可以非常容易的表明多个类别是否有混淆（也就是一个class被预测成另一个class）。...
分类：
其他好文 时间：
2015-04-07 23:29:49
阅读次数：
642
