码迷,mamicode.com
首页 > 编程语言 > 详细

Kmeans 聚类 及其python实现

时间:2018-08-10 17:09:20      阅读:191      评论:0      收藏:0      [点我收藏+]

标签:介绍   __name__   加载   ras   block   clu   name   enc   维数   

主要参考   K-means 聚类算法及 python 代码实现    还有  《机器学习实战》 这本书,当然前面那个链接的也是参考这本书,懂原理,会用就行了。

1、概述

K-means 算法是集简单和经典于一身的基于距离的聚类算法

采用距离作为相似性的评价指标,即认为两个对象的距离越近,其相似度就越大。

该算法认为类簇是由距离靠近的对象组成的,因此把得到紧凑且独立的簇作为最终目标。

说白了就是无监督的聚类,大家都是同一个标注,或者没有标注,然后这一堆数据是一类,那一堆又是一类,你人为的设置好几个类,算法自动帮你分好各个类,只要每个类的样本尽可能的紧凑即可。

 

2、核心思想

通过迭代寻找 k 个类簇的一种划分方案,使得用这 k 个类簇的均值来代表相应各类样本时所得的总体误差最小。

k 个聚类具有以下特点:各聚类本身尽可能的紧凑,而各聚类之间尽可能的分开。

 k-means 算法的基础是最小误差平方和准则,

其代价函数是:

    技术分享图片

       式中,μc(i) 表示第 i 个聚类的均值。

各类簇内的样本越相似,其与该类均值间的误差平方越小,对所有类所得到的误差平方求和,即可验证分为 k 类时,各聚类是否是最优的。

上式的代价函数无法用解析的方法最小化,只能有迭代的方法。

 

3、算法步骤图解

下图展示了对 n 个样本点进行 K-means 聚类的效果,这里 k 取 2。

 技术分享图片

 

4、算法实现步骤

k-means 算法是将样本聚类成 k 个簇(cluster),其中 k 是用户给定的,其求解过程非常直观简单,具体算法描述如下:

1) 随机选取 k 个聚类质心点

2) 重复下面过程直到收敛  {

      对于每一个样例 i,计算其应该属于的类:

        技术分享图片

      对于每一个类 j,重新计算该类的质心:

         技术分享图片

  }

   

其伪代码如下:

******************************************************************************

创建 k 个点作为初始的质心点(随机选择)

当任意一个点的簇分配结果发生改变时

       对数据集中的每一个数据点

              对每一个质心

                     计算质心与数据点的距离

              将数据点分配到距离最近的簇

       对每一个簇,计算簇中所有点的均值,并将均值作为质心

********************************************************

 

5、K-means 聚类算法 python 实战   

这个就是书上的代码。

需求:  对给定的数据集进行聚类

本案例采用二维数据集,共 80 个样本,有 4 个类。  

$ wc -l testSet.txt;head testSet.txt
80 testSet.txt
1.658985 4.285136
-3.453687 3.424321
4.838138 -1.151539
-5.379713 -3.362104
0.972564 2.924086
-3.567919 1.531611
0.450614 -3.302219
-3.487105 -1.724432
2.668759 1.594842
-3.156485 3.191137

#!/usr/bin/env python
# -*- coding: utf-8 -*-
# Time    : 18-8-8 下午2:17
# Author  : dahu
# File    : kmeans2.py
# Software: PyCharm

#from :  https://www.cnblogs.com/ahu-lichang/p/7161613.html
import sys
reload(sys)
sys.setdefaultencoding(UTF-8)

from numpy import *
import matplotlib.pyplot as plt
# 加载数据
def loadDataSet(fileName):  # 解析文件,按tab分割字段,得到一个浮点数字类型的矩阵
    dataMat = []              # 文件的最后一个字段是类别标签
    fr = open(fileName)
    for line in fr.readlines():
        curLine = line.strip().split(\t)
        fltLine = map(float, curLine)    # 将每个元素转成float类型
        dataMat.append(fltLine)
    return dataMat

# 计算欧几里得距离
def distEclud(vecA, vecB):
    return sqrt(sum(power(vecA - vecB, 2))) # 求两个向量之间的距离

# 构建聚簇中心,取k个(此例中k=4)随机质心
def randCent(dataSet, k):
    n = shape(dataSet)[1]
    centroids = mat(zeros((k,n)))   # 每个质心有n个坐标值,总共要k个质心
    for j in range(n):
        minJ = min(dataSet[:,j])
        maxJ = max(dataSet[:,j])
        rangeJ = float(maxJ - minJ)
        centroids[:,j] = minJ + rangeJ * random.rand(k, 1)
    return centroids

# k-means 聚类算法
def kMeans(dataSet, k, distMeans =distEclud, createCent = randCent):
    ‘‘‘
    :param dataSet:  没有lable的数据集  (本例中是二维数据)
    :param k:  分为几个簇
    :param distMeans:    计算距离的函数
    :param createCent:   获取k个随机质心的函数
    :return: centroids: 最终确定的 k个 质心
            clusterAssment:  该样本属于哪类  及  到该类质心距离
    ‘‘‘
    m = shape(dataSet)[0]   #m=80,样本数量
    clusterAssment = mat(zeros((m,2)))
    # clusterAssment第一列存放该数据所属的中心点,第二列是该数据到中心点的距离,
    centroids = createCent(dataSet, k)
    clusterChanged = True   # 用来判断聚类是否已经收敛
    while clusterChanged:
        clusterChanged = False;
        for i in range(m):  # 把每一个数据点划分到离它最近的中心点
            minDist = inf; minIndex = -1;
            for j in range(k):
                distJI = distMeans(centroids[j,:], dataSet[i,:])
                if distJI < minDist:
                    minDist = distJI; minIndex = j  # 如果第i个数据点到第j个中心点更近,则将i归属为j
            if clusterAssment[i,0] != minIndex:
                clusterChanged = True  # 如果分配发生变化,则需要继续迭代
            clusterAssment[i,:] = minIndex,minDist**2   # 并将第i个数据点的分配情况存入字典
        # print centroids
        for cent in range(k):   # 重新计算中心点
            ptsInClust = dataSet[nonzero(clusterAssment[:,0].A == cent)[0]]   # 去第一列等于cent的所有列
            centroids[cent,:] = mean(ptsInClust, axis = 0)  # 算出这些数据的中心点
    return centroids, clusterAssment
# --------------------测试----------------------------------------------------
# 用测试数据及测试kmeans算法
if __name__ == __main__:
    datMat = mat(loadDataSet(testSet.txt))
    # print min(datMat[:,0])
    # print max(datMat[:,1])
    # print randCent(datMat,4)
    myCentroids,clustAssing = kMeans(datMat,4)
    print myCentroids
    # print clustAssing,len(clustAssing)

    plt.figure(1)
    x=array(datMat[:,0]).ravel()
    y=array(datMat[:,1]).ravel()
    plt.scatter(x,y, marker=o)
    xcent=array(myCentroids[:,0]).ravel()
    ycent=array(myCentroids[:,1]).ravel()
    plt.scatter( xcent, ycent, marker=x, color=r, s=50)
    plt.show()

运行结果:

技术分享图片技术分享图片

 

代码不是特别的难,看下都可以看得明白,发现都有点不会numpy的操作了,里面有一些是基于numpy的 布尔型数组操作 ,要补一补。   第 04 章 NumPy 基础:数组和矢量计算

简单说下各个函数的作用:

loadDataSet :加载数据的
distEclud : 计算距离的,注释说是计算欧几里德距离,其实就是计算  每个样本 到 每个聚类质心的距离,这是用来确定质心坐标的。
kMeans : 主函数了,实现了kmeans 算法

注释已经比较详细了,就不再细说了。 书上后面还有一个对kmeans优化的地方,这里就不介绍了。

 

Kmeans 聚类 及其python实现

标签:介绍   __name__   加载   ras   block   clu   name   enc   维数   

原文地址:https://www.cnblogs.com/dahu-daqing/p/9455720.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!