快捷導(dǎo)航

python實(shí)現(xiàn)拉普拉斯特征圖降維示例

更新時(shí)間：2019年11月25日 14:32:50 作者：u012369559

今天小編就為大家分享一篇python實(shí)現(xiàn)拉普拉斯特征圖降維示例，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧

這種方法假設(shè)樣本點(diǎn)在光滑的流形上，這一方法的計(jì)算數(shù)據(jù)的低維表達(dá)，局部近鄰信息被最優(yōu)的保存。以這種方式，可以得到一個(gè)能反映流形的幾何結(jié)構(gòu)的解。

步驟一：構(gòu)建一個(gè)圖G=(V,E),其中V={vi，i=1,2,3…n}是頂點(diǎn)的集合，E={eij}是連接頂點(diǎn)的vi和vj邊，圖的每一個(gè)節(jié)點(diǎn)vi與樣本集X中的一個(gè)點(diǎn)xi相關(guān)。如果xi，xj相距較近，我們就連接vi，vj。也就是說(shuō)在各自節(jié)點(diǎn)插入一個(gè)邊eij，如果Xj在xi的k領(lǐng)域中，k是定義參數(shù)。

步驟二：每個(gè)邊都與一個(gè)權(quán)值Wij相對(duì)應(yīng)，沒(méi)有連接點(diǎn)之間的權(quán)值為0，連接點(diǎn)之間的權(quán)值：

步驟三：令，實(shí)現(xiàn)廣義本征分解：

使是最小的m+1個(gè)本征值。忽略與 =0相關(guān)的本征向量，選取另外m個(gè)本征向量即為降維后的向量。

1、python實(shí)現(xiàn)拉普拉斯降維

def laplaEigen(dataMat,k,t): 
 m,n=shape(dataMat) 
 W=mat(zeros([m,m])) 
 D=mat(zeros([m,m])) 
 for i in range(m): 
 k_index=knn(dataMat[i,:],dataMat,k) 
 for j in range(k): 
  sqDiffVector = dataMat[i,:]-dataMat[k_index[j],:] 
  sqDiffVector=array(sqDiffVector)**2 
  sqDistances = sqDiffVector.sum() 
  W[i,k_index[j]]=math.exp(-sqDistances/t) 
  D[i,i]+=W[i,k_index[j]] 
 L=D-W 
 Dinv=np.linalg.inv(D) 
 X=np.dot(D.I,L) 
 lamda,f=np.linalg.eig(X) 
return lamda,f 
def knn(inX, dataSet, k): 
 dataSetSize = dataSet.shape[0] 
 diffMat = tile(inX, (dataSetSize,1)) - dataSet 
 sqDiffMat = array(diffMat)**2 
 sqDistances = sqDiffMat.sum(axis=1) 
 distances = sqDistances**0.5 
 sortedDistIndicies = distances.argsort() 
return sortedDistIndicies[0:k] 
dataMat, color = make_swiss_roll(n_samples=2000) 
lamda,f=laplaEigen(dataMat,11,5.0) 
fm,fn =shape(f) 
print 'fm,fn:',fm,fn 
lamdaIndicies = argsort(lamda) 
first=0 
second=0 
print lamdaIndicies[0], lamdaIndicies[1] 
for i in range(fm): 
 if lamda[lamdaIndicies[i]].real>1e-5: 
 print lamda[lamdaIndicies[i]] 
 first=lamdaIndicies[i] 
 second=lamdaIndicies[i+1] 
 break 
print first, second 
redEigVects = f[:,lamdaIndicies] 
fig=plt.figure('origin') 
ax1 = fig.add_subplot(111, projection='3d') 
ax1.scatter(dataMat[:, 0], dataMat[:, 1], dataMat[:, 2], c=color,cmap=plt.cm.Spectral) 
fig=plt.figure('lowdata') 
ax2 = fig.add_subplot(111) 
ax2.scatter(f[:,first], f[:,second], c=color, cmap=plt.cm.Spectral) 
plt.show()

2、拉普拉斯降維實(shí)驗(yàn)

用如下參數(shù)生成實(shí)驗(yàn)數(shù)據(jù)存在swissdata.dat里面：

def make_swiss_roll(n_samples=100, noise=0.0, random_state=None): 
 #Generate a swiss roll dataset. 
 t = 1.5 * np.pi * (1 + 2 * random.rand(1, n_samples)) 
 x = t * np.cos(t) 
 y = 83 * random.rand(1, n_samples) 
 z = t * np.sin(t) 
 X = np.concatenate((x, y, z)) 
 X += noise * random.randn(3, n_samples) 
 X = X.T 
 t = np.squeeze(t) 
return X, t

實(shí)驗(yàn)結(jié)果如下：