主要参考 K-means 聚类算法及 python 代码实现 还有 《机器学习实战》 这本书，当然前面那个链接的也是参考这本书，懂原理，会用就行了。
1、概述
K-means 算法是集简单和经典于一身的基于距离的聚类算法
采用距离作为相似性的评价指标，即认为两个对象的距离越近，其相似度就越大。
该算法认为类簇是由距离靠近的对象组成的，因此把得到紧凑且独立的簇作为最终目标。
说白了就是无监督的聚类，大家都是同一个标注，或者没有标注，然后这一堆数据是一类，那一堆又是一类，你人为的设置好几个类，算法自动帮你分好各个类，只要每个类的样本尽可能的紧凑即可。
2、核心思想
通过迭代寻找 k 个类簇的一种划分方案，使得用这 k 个类簇的均值来代表相应各类样本时所得的总体误差最小。
k 个聚类具有以下特点：各聚类本身尽可能的紧凑，而各聚类之间尽可能的分开。
k-means 算法的基础是最小误差平方和准则,
其代价函数是：
式中，μc(i) 表示第 i 个聚类的均值。
各类簇内的样本越相似，其与该类均值间的误差平方越小，对所有类所得到的误差平方求和，即可验证分为 k 类时，各聚类是否是最优的。
上式的代价函数无法用解析的方法最小化，只能有迭代的方法。
3、算法步骤图解
下图展示了对 n 个样本点进行 K-means 聚类的效果，这里 k 取 2。
4、算法实现步骤
k-means 算法是将样本聚类成 k 个簇（cluster），其中 k 是用户给定的，其求解过程非常直观简单，具体算法描述如下：
1) 随机选取 k 个聚类质心点
2) 重复下面过程直到收敛 {
对于每一个样例 i，计算其应该属于的类：
对于每一个类 j，重新计算该类的质心：
}
其伪代码如下：
******************************************************************************
创建 k 个点作为初始的质心点（随机选择）
当任意一个点的簇分配结果发生改变时
对数据集中的每一个数据点
对每一个质心
计算质心与数据点的距离
将数据点分配到距离最近的簇
对每一个簇，计算簇中所有点的均值，并将均值作为质心
********************************************************
5、K-means 聚类算法 python 实战
这个就是书上的代码。
需求： 对给定的数据集进行聚类
本案例采用二维数据集，共 80 个样本，有 4 个类。
$ wc -l testSet.txt;head testSet.txt
80 testSet.txt
1.6589854.285136
-3.4536873.424321
4.838138-1.151539
-5.379713-3.362104
0.9725642.924086
-3.5679191.531611
0.450614-3.302219
-3.487105-1.724432
2.6687591.594842
-3.1564853.191137
#!/usr/bin/env python#-*- coding: utf-8 -*-#Time : 18-8-8 下午2:17#Author : dahu#File : kmeans2.py#Software: PyCharm
#from :
importsys
reload(sys)
sys.setdefaultencoding('UTF-8')from numpy import *
importmatplotlib.pyplot as plt#加载数据
def loadDataSet(fileName): #解析文件，按tab分割字段，得到一个浮点数字类型的矩阵
dataMat = [] #文件的最后一个字段是类别标签
fr =open(fileName)for line infr.readlines():
curLine= line.strip().split('\t')
fltLine= map(float, curLine) #将每个元素转成float类型
dataMat.append(fltLine)returndataMat#计算欧几里得距离
defdistEclud(vecA, vecB):return sqrt(sum(power(vecA - vecB, 2))) #求两个向量之间的距离
#构建聚簇中心，取k个(此例中k=4)随机质心
defrandCent(dataSet, k):
n= shape(dataSet)[1]
centroids= mat(zeros((k,n))) #每个质心有n个坐标值，总共要k个质心
for j inrange(n):
minJ=min(dataSet[:,j])
maxJ=max(dataSet[:,j])
rangeJ= float(maxJ -minJ)
centroids[:,j]= minJ + rangeJ * random.rand(k, 1)returncentroids#k-means 聚类算法
def kMeans(dataSet, k, distMeans =distEclud, createCent =randCent):''':param dataSet: 没有lable的数据集 (本例中是二维数据)
:param k: 分为几个簇
:param distMeans: 计算距离的函数
:param createCent: 获取k个随机质心的函数
:return: centroids： 最终确定的 k个 质心
clusterAssment: 该样本属于哪类 及 到该类质心距离'''m= shape(dataSet)[0] #m=80,样本数量
clusterAssment = mat(zeros((m,2)))#clusterAssment第一列存放该数据所属的中心点，第二列是该数据到中心点的距离，
centroids =createCent(dataSet, k)
clusterChanged= True #用来判断聚类是否已经收敛
whileclusterChanged:
clusterChanged=False;for i in range(m): #把每一个数据点划分到离它最近的中心点
minDist = inf; minIndex = -1;for j inrange(k):
distJI=distMeans(centroids[j,:], dataSet[i,:])if distJI
minDist= distJI; minIndex = j #如果第i个数据点到第j个中心点更近，则将i归属为j
if clusterAssment[i,0] !=minIndex:
clusterChanged= True #如果分配发生变化，则需要继续迭代
clusterAssment[i,:] = minIndex,minDist**2 #并将第i个数据点的分配情况存入字典
#print centroids
for cent in range(k): #重新计算中心点
ptsInClust = dataSet[nonzero(clusterAssment[:,0].A == cent)[0]] #去第一列等于cent的所有列
centroids[cent,:] = mean(ptsInClust, axis = 0) #算出这些数据的中心点
returncentroids, clusterAssment#--------------------测试----------------------------------------------------#用测试数据及测试kmeans算法
if __name__ == '__main__':
datMat= mat(loadDataSet('testSet.txt'))#print min(datMat[:,0])
#print max(datMat[:,1])
#print randCent(datMat,4)
myCentroids,clustAssing = kMeans(datMat,4)printmyCentroids#print clustAssing,len(clustAssing)
plt.figure(1)
x=array(datMat[:,0]).ravel()
y=array(datMat[:,1]).ravel()
plt.scatter(x,y, marker='o')
xcent=array(myCentroids[:,0]).ravel()
ycent=array(myCentroids[:,1]).ravel()
plt.scatter( xcent, ycent, marker='x', color='r', s=50)
plt.show()运行结果：
代码不是特别的难，看下都可以看得明白，发现都有点不会numpy的操作了，里面有一些是基于numpy的 布尔型数组操作 ，要补一补。 第 04 章 NumPy 基础：数组和矢量计算
简单说下各个函数的作用：
loadDataSet ：加载数据的
distEclud ： 计算距离的，注释说是计算欧几里德距离，其实就是计算 每个样本 到 每个聚类质心的距离，这是用来确定质心坐标的。
kMeans ： 主函数了，实现了kmeans 算法
注释已经比较详细了，就不再细说了。 书上后面还有一个对kmeans优化的地方，这里就不介绍了。
