python實(shí)現(xiàn)k-means聚類(lèi)算法
k-means聚類(lèi)算法
k-means是發(fā)現(xiàn)給定數(shù)據(jù)集的k個(gè)簇的算法,也就是將數(shù)據(jù)集聚合為k類(lèi)的算法。
算法過(guò)程如下:
1)從N個(gè)文檔隨機(jī)選取K個(gè)文檔作為質(zhì)心
2)對(duì)剩余的每個(gè)文檔測(cè)量其到每個(gè)質(zhì)心的距離,并把它歸到最近的質(zhì)心的類(lèi),我們一般取歐幾里得距離
3)重新計(jì)算已經(jīng)得到的各個(gè)類(lèi)的質(zhì)心
4)迭代步驟(2)、(3)直至新的質(zhì)心與原質(zhì)心相等或迭代次數(shù)大于指定閾值,算法結(jié)束
算法實(shí)現(xiàn)
隨機(jī)初始化k個(gè)質(zhì)心,用dict保存質(zhì)心的值以及被聚類(lèi)到該簇中的所有data。
def initCent(dataSet , k):
N = shape(dataSet)[1]
cents = {}
randIndex=[]
#隨機(jī)生成k個(gè)不重復(fù)的索引
for i in range(k):
rand = random.randint(0,N)
while rand in randIndex:
rand = random.randint(0, N)
randIndex.append(rand)
#按索引取dataSet中的data作為質(zhì)心
for i in range(k):
templist = []
templist.append(dataSet[randIndex[i]])
templist.append([dataSet[randIndex[i]]])
cents[i] = templist
return cents
對(duì)dataSet中的所有數(shù)據(jù)進(jìn)行一次聚類(lèi)。返回值cents為dict類(lèi)型的數(shù)據(jù),int類(lèi)型的key,list類(lèi)型的value。其中cents[i][0]為質(zhì)心位置,cents[i][1]為存儲(chǔ)該簇中所有data的列表。
#計(jì)算兩個(gè)向量的歐氏距離 def calDist(X1 , X2): sum = 0 for x1 , x2 in zip(X1 , X2): sum += (x1 - x2) ** 2 return sum ** 0.5 #聚類(lèi) def doKmeans(dataSet , k , cents): #清空上一次迭代后的簇中元素,只記錄質(zhì)心 for i in range(k): cents[i][1] = [] for data in dataSet: no = 0#初始化簇標(biāo)號(hào) minDist = sys.maxint#初始化data與k個(gè)質(zhì)心的最短距離 for i in range(k): dist = calDist(data , cents[i][0]) if dist < minDist: minDist = dist no = i #找到距離最近的質(zhì)心 cents[no][1].append(data) #更新質(zhì)心 for i in range(k): for j in range(shape(dataSet)[0]): cents[i][0] = mean(cents[i][1],axis=0).tolist() return cents
k-means主方法
#判斷兩次聚類(lèi)的結(jié)果是否相同 def isEqual(old , new): for i in range(len(old)): if(old[i] != new[i][0]): return 0 return 1 #主方法 def kmeans_main(dataSet,k): cents = initCent(dataSet, k) for x in range(1000): oldcents = [] #拷貝上一次迭代的結(jié)果 for i in cents.keys(): oldcents.append(cents[i][0]) newcents = doKmeans(dataSet, k , cents) #若相鄰兩次迭代結(jié)果相同,算法結(jié)束 if isEqual(oldcents , newcents)>0: break cents = newcents return cents
結(jié)果測(cè)試
數(shù)據(jù)集(虛構(gòu))
2 3 2.54
2 1 0.72
3 5 3.66
4 3 1.71
3.11 5.29 4.13
4.15 2 3.1
3.12 3.33 3.72
1.49 5 2.6
3 5 2.88
3.9 1.78 2.56
-2 3 5
3 1 0.4
-2 1 2.2
-3 0 1.7
-4 1 2
8 -1 0
2 3.2 7.1
1 3 5
2 4 3
0.1 2 5.4
2 0 5.54
2 1 1.72
3 5 2.66
1 8 1.71
5.11 1.29 4.13
7.15 2 7.1
1.12 5.33 4.72
6.49 4 3.6
4 8 6.88
1.9 5.78 6.56
-2 -3 2.5
1 -1 2.4
-2 1 3.2
-1 0 5.7
-2 3 2
1 -1 4
3 4.2 6.1
5 2 5
3 5.7 13
0.9 2.9 1.4
畫(huà)圖方法
def draw(cents): color = [ 'y', 'g', 'b'] X = [] Y = [] Z = [] fig = plt.figure() ax = Axes3D(fig) for i in cents.keys(): X.append(cents[i][0][0]) Y.append(cents[i][0][1]) Z.append(cents[i][0][2]) ax.scatter(X, Y, Z,alpha=0.4,marker='o',color='r', label=str(i)) for i in cents.keys(): X = [] Y = [] Z = [] data = cents[i][1] for vec in data: X.append(vec[0]) Y.append(vec[1]) Z.append(vec[2]) ax.scatter(X, Y, Z, alpha=0.4,marker='o', color=color[i], label=str(i),) plt.show()
測(cè)試及結(jié)果展示(紅點(diǎn)表示質(zhì)心)
dataSet = loadDataSet("dataSet.txt")
cents = kmeans_main(dataSet , 3)
draw(cents)

以上就是本文的全部?jī)?nèi)容,希望對(duì)大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。
- python中實(shí)現(xiàn)k-means聚類(lèi)算法詳解
- python實(shí)現(xiàn)鳶尾花三種聚類(lèi)算法(K-means,AGNES,DBScan)
- Python機(jī)器學(xué)習(xí)之K-Means聚類(lèi)實(shí)現(xiàn)詳解
- Python機(jī)器學(xué)習(xí)算法之k均值聚類(lèi)(k-means)
- 利用Python如何實(shí)現(xiàn)K-means聚類(lèi)算法
- k-means 聚類(lèi)算法與Python實(shí)現(xiàn)代碼
- Python如何通過(guò)手肘法實(shí)現(xiàn)k_means聚類(lèi)詳解
相關(guān)文章
python curl2pyreqs 生成接口腳本實(shí)戰(zhàn)教程
這篇文章主要介紹了python curl2pyreqs 生成接口腳本實(shí)戰(zhàn)教程,首先下載 curl2pyreqs 庫(kù),打開(kāi)調(diào)試模式,在Network這里獲取接口的cURL,需要的朋友可以參考下2023-10-10
使用Python的pygame庫(kù)實(shí)現(xiàn)下雪效果的示例代碼
這篇文章給大家介紹了如何使用Python的pygame庫(kù)實(shí)現(xiàn)下雪的效果,文中通過(guò)代碼示例介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作有一定的的幫助,需要的朋友可以參考下2024-01-01
解決windows上安裝tensorflow時(shí)報(bào)錯(cuò),“DLL load failed: 找不到指定的模塊”的問(wèn)題
這篇文章主要介紹了解決windows上安裝tensorflow時(shí)報(bào)錯(cuò),“DLL load failed: 找不到指定的模塊”的問(wèn)題,本文給大家介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2020-05-05
利用python的socket發(fā)送http(s)請(qǐng)求方法示例
這篇文章主要給大家介紹了關(guān)于利用python的socket發(fā)送http(s)請(qǐng)求的相關(guān)資料,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家學(xué)習(xí)或者使用python具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面來(lái)一起看看吧2018-05-05
python 三種方法實(shí)現(xiàn)對(duì)Excel表格的讀寫(xiě)
這篇文章主要介紹了python 三種方法實(shí)現(xiàn)對(duì)Excel表格的讀寫(xiě),幫助大家更好的利用python處理表格,感興趣的朋友可以了解下2020-11-11
python實(shí)現(xiàn)12306火車(chē)票查詢(xún)器
這篇文章主要介紹了python實(shí)現(xiàn)12306火車(chē)票查詢(xún)器,需要的朋友可以參考下2017-04-04
Python 通過(guò)URL打開(kāi)圖片實(shí)例詳解
這篇文章主要介紹了Python 通過(guò)URL打開(kāi)圖片實(shí)例詳解的相關(guān)資料,需要的朋友可以參考下2017-06-06

