Python如何通過手肘法實現(xiàn)k_means聚類詳解

更新時間：2023年04月20日 10:25:09 作者：河啊

K-means聚類算法是一種常見的無監(jiān)督學(xué)習(xí)算法,用于將數(shù)據(jù)集分成k個不同的簇,下面這篇文章主要給大家介紹了關(guān)于Python如何通過手肘法實現(xiàn)k_means聚類的相關(guān)資料,需要的朋友可以參考下

1.導(dǎo)入matplotlib.pylab和numpy包

import matplotlib.pylab as plt
import numpy as np

2.定義實現(xiàn)需要用到的函數(shù)

（1）計算兩點距離

# 計算兩點距離
def distance(a, b):
    return np.sqrt((a[0] - b[0]) ** 2 + (a[1] - b[1]) ** 2)

（2）取集合的中心點

# 取集合中心點
def means(arr):
    x = 0
    y = 0
    for i in range(len(arr)):
        x += arr[i][0]
        y += arr[i][1]
    if len(arr) > 0:
        x /= len(arr)
        y /= len(arr)
    return np.array([x, y])

（3）尋找下一個聚類中心點，其距離已找到的聚類中心點最遠，用于初始化聚類中心

# 尋找距離已加入聚類中心數(shù)組最遠的點，用于初始化聚類中心
def farthest(k_arr, arr):
    point = [0, 0]
    max_dist = 0
    for e in arr:
        dist = 0
        for i in range(len(k_arr)):
            dist += distance(k_arr[i], e)
        if dist > max_dist:
            max_dist = dist
            point = e
    return point

3.k_means方法

（1）先讀取表中的數(shù)據(jù)

（2）如何隨機獲取其中一個點作為第一個聚類中心

（3）接下來每次獲取距離之間所有聚類中心點最遠的點作為下一個聚類中心點

（4）每次迭代時，遍歷集合中的所有點，將其加入距離最小的聚類中心點數(shù)組中，更新聚類中心

（5）最后將數(shù)據(jù)可視化，返回分類好的數(shù)組

def k_means(k):
    # 讀取數(shù)據(jù)
    kmeans_data = np.genfromtxt('kmeans_data.txt', dtype=float)
    # 初始化
    r = np.random.randint(len(kmeans_data) - 1)
    k_arr = np.array([kmeans_data[r]])
    class_arr = [[]]
    for i in range(k - 1):
        k_arr = np.concatenate([k_arr, np.array([farthest(k_arr, kmeans_data)])])
        class_arr.append([])

    # 迭代聚類
    n = 20
    class_temp = class_arr
    for i in range(n):  # 迭代次數(shù)
        class_temp = class_arr
        for e in kmeans_data:  # 把集合中的每一個點聚到離它最近的類
            k_idx = 0  # 假設(shè)距離第一個聚類中心最近
            min_d = distance(e, k_arr[0])
            for j in range(len(k_arr)):  # 獲取距離該元素最近的聚類中心
                if distance(e, k_arr[j]) < min_d:
                    min_d = distance(e, k_arr[j])
                    k_idx = j
            class_temp[k_idx].append(e)  # 把該元素加到對應(yīng)的類中
        # 更新聚類中心
        for l in range(len(k_arr)):
            k_arr[l] = means(class_temp[l])
    # 將數(shù)據(jù)可視化
    col = ['red', 'blue', 'yellow', 'green', 'pink', 'black', 'purple', 'orange', 'brown']
    for i in range(k):
        plt.scatter(k_arr[i][0], k_arr[i][1], linewidths=10, color=col[i])
        plt.scatter([e[0] for e in class_temp[i]], [e[1] for e in class_temp[i]], color=col[i])
    plt.show()
    # 返回分類好的簇
    return class_temp

4.手肘法獲取最佳的k值

（1）遍歷k值的范圍，從1到9

（2）kmeans獲取分類好的數(shù)組

（3）遍歷kmeans計算對應(yīng)的SSE

（4）畫出對應(yīng)k值的SSE的折線圖

# 通過肘部觀察法獲取k值
def getK():
    mean_dist = []
    for k in range(1, 10):
        # 獲取分成k簇后的元素
        kmeans = k_means(k)
        sse = 0
        # 計算SSE
        for i in range(len(kmeans)):
            mean = means(kmeans[i])
            for e in kmeans[i]:
                sse += distance(mean, e) ** 2
        mean_dist.append(sse)
    # 化成折線圖觀察最佳的k值
    plt.plot(range(1, 10), mean_dist, 'bx-')
    plt.ylabel('SSE')
    plt.xlabel('k')
    plt.show()

折線圖

5. main函數(shù)

if __name__ == '__main__':
    getK()
    # 通過觀察可知, 4 是最佳的k值
    k_means(4)

散點圖

6. 完整代碼

import matplotlib.pylab as plt
import numpy as np

# 計算兩點距離
def distance(a, b):
    return np.sqrt((a[0] - b[0]) ** 2 + (a[1] - b[1]) ** 2)

# 取集合中心點
def means(arr):
    x = 0
    y = 0
    for i in range(len(arr)):
        x += arr[i][0]
        y += arr[i][1]
    if len(arr) > 0:
        x /= len(arr)
        y /= len(arr)
    return np.array([x, y])

# 尋找距離已加入聚類中心數(shù)組最遠的點，用于初始化聚類中心
def farthest(k_arr, arr):
    point = [0, 0]
    max_dist = 0
    for e in arr:
        dist = 0
        for i in range(len(k_arr)):
            dist += distance(k_arr[i], e)
        if dist > max_dist:
            max_dist = dist
            point = e
    return point

def k_means(k):
    # 讀取數(shù)據(jù)
    kmeans_data = np.genfromtxt('kmeans_data.txt', dtype=float)
    # 初始化
    r = np.random.randint(len(kmeans_data) - 1)
    k_arr = np.array([kmeans_data[r]])
    class_arr = [[]]
    for i in range(k - 1):
        k_arr = np.concatenate([k_arr, np.array([farthest(k_arr, kmeans_data)])])
        class_arr.append([])

    # 迭代聚類
    n = 20
    class_temp = class_arr
    for i in range(n):  # 迭代次數(shù)
        class_temp = class_arr
        for e in kmeans_data:  # 把集合中的每一個點聚到離它最近的類
            k_idx = 0  # 假設(shè)距離第一個聚類中心最近
            min_d = distance(e, k_arr[0])
            for j in range(len(k_arr)):  # 獲取距離該元素最近的聚類中心
                if distance(e, k_arr[j]) < min_d:
                    min_d = distance(e, k_arr[j])
                    k_idx = j
            class_temp[k_idx].append(e)  # 把該元素加到對應(yīng)的類中
        # 更新聚類中心
        for l in range(len(k_arr)):
            k_arr[l] = means(class_temp[l])
    # 將數(shù)據(jù)可視化
    col = ['red', 'blue', 'yellow', 'green', 'pink', 'black', 'purple', 'orange', 'brown']
    for i in range(k):
        plt.scatter(k_arr[i][0], k_arr[i][1], linewidths=10, color=col[i])
        plt.scatter([e[0] for e in class_temp[i]], [e[1] for e in class_temp[i]], color=col[i])
    plt.show()
    # 返回分類好的簇
    return class_temp

# 通過肘部觀察法獲取k值
def getK():
    mean_dist = []
    for k in range(1, 10):
        # 獲取分成k簇后的元素
        kmeans = k_means(k)
        sse = 0
        # 計算SSE
        for i in range(len(kmeans)):
            mean = means(kmeans[i])
            for e in kmeans[i]:
                sse += distance(mean, e) ** 2
        mean_dist.append(sse)
    # 化成折線圖觀察最佳的k值
    plt.plot(range(1, 10), mean_dist, 'bx-')
    plt.ylabel('SSE')
    plt.xlabel('k')
    plt.show()

if __name__ == '__main__':
    getK()
    # 通過觀察可知, 4 是最佳的k值
    k_means(4)