聚类--K均值算法：自主实现与sklearn.cluster.KMeans调用

1.用python实现K均值算法

 

K-means是一个反复迭代的过程，算法分为四个步骤：

  （x,k,y)

1） 选取数据空间中的K个对象作为初始中心，每个对象代表一个聚类中心；

  def initcenter(x, k): kc

2） 对于样本中的数据对象，根据它们与这些聚类中心的欧氏距离，按距离最近的准则将它们分到距离它们最近的聚类中心（最相似）所对应的类；

  def nearest(kc, x[i]): j

  def xclassify(x, y, kc):y[i]=j

3） 更新聚类中心：将每个类别中所有对象所对应的均值作为该类别的聚类中心，计算目标函数的值；

  def kcmean(x, y, kc, k):

4） 判断聚类中心和目标函数的值是否发生改变，若不变，则输出结果，若改变，则返回2）。

  while flag:

      y = xclassify(x, y, kc)

      kc, flag = kcmean(x, y, kc, k)

 

代码：

import numpy as np
from sklearn.datasets import load_iris
iris = load_iris()
x = iris.data[:,1]
y = np.zeros(150)
#1） 选取数据空间中的K个对象作为初始中心，每个对象代表一个聚类中心；
def initcenter(x,k):#初始聚类中心
    return x[0:k].reshape(k)
#2）将各个数据分到距离它们最近的聚类中心（最相似）所对应的类
def nearest(kc,i):  #数组中的值，与聚类中心最小距离所在类别的索引号
    d=(abs(kc - i))
    w=np.where(d==np.min(d))
    return w[0][0]

#3） 更新聚类中心：将每个类别中所有对象所对应的均值作为该类别的聚类中心，计算目标函数的值；
def kcmean(x,y,kc,k):
    l=list(kc)
    flag=False
    for c in range(k):
        m=np.where(y==c)
        n=np.mean(x[m])
        if l[c]!=n:
            l[c]=n
            flag=True  #聚类中心发生变化
            print(l,flag)
    return(np.array(l),flag)
def xclassify(x,y,kc):
    for i in range(x.shape[0]): #对数组每个值
        y[i]=nearest(kc,x[i])
    return y

k=3
kc=initcenter(x,k)

flag=True
print(x,y,kc,flag)
while flag:
    y=xclassify(x,y,kc)
    kc,flag=kcmean(x,y,kc,k)
    print(y,kc,type(kc))
    
print(x,y)
import matplotlib.pyplot as plt
plt.scatter(x,x,c=y,s=50,cmap='rainbow');
plt.show()

运行结果：

2. 鸢尾花花瓣长度数据做聚类并用散点图显示。

3. 用sklearn.cluster.KMeans，鸢尾花花瓣长度数据做聚类并用散点图显示.

4. 鸢尾花完整数据做聚类并用散点图显示

代码：

#用sklearn.cluster.KMeans，鸢尾花花瓣长度数据做聚类并用散点图显示
import numpy as np
from sklearn.cluster import KMeans
from sklearn.datasets import load_iris
from matplotlib import pyplot  as plt

iris_data = load_iris()

petal_len = iris_data.data[:,2:3]   #导入鸢尾花长度数据
petal_len_mean = KMeans(n_clusters = 3)  #鸢尾花花瓣长度数据分为3簇
result1=petal_len_mean.fit(petal_len)
kc = result1.cluster_centers_   #计算样本中每个数据的分类
y_kmeans1 = petal_len_mean.predict(petal_len)   #预测每个数据的聚类索引

plt.scatter(petal_len,np.linspace(1,150,150),c=y_kmeans1,marker='p',cmap='rainbow',linewidths=4)
plt.show()

# 4. 鸢尾花完整数据做聚类并用散点图显示.
data = iris_data.data
k_means = KMeans(n_clusters=3)
result2 = k_means.fit(data)
kc2 = result2.cluster_centers_
y_kmeans2 = k_means.predict(data)

print(y_kmeans2, kc2)
print(kc2.shape, y_kmeans.shape, x2.shape)

pyplot.scatter(x2[:, 0], x2[:, 1], c=y_kmeans2, marker='p', cmap='rainbow', linewidths=4, alpha=0.6)
pyplot.show()

运行结果：