快捷導(dǎo)航

python機(jī)器學(xué)習(xí)之神經(jīng)網(wǎng)絡(luò)（一）

更新時(shí)間：2021年10月11日 11:03:32 作者：Jeffrey_Cui

這篇文章主要為大家詳細(xì)介紹了python機(jī)器學(xué)習(xí)之神經(jīng)網(wǎng)絡(luò)第一篇，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下

python有專門的神經(jīng)網(wǎng)絡(luò)庫(kù)，但為了加深印象，我自己在numpy庫(kù)的基礎(chǔ)上，自己編寫了一個(gè)簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò)程序，是基于Rosenblatt感知器的，這個(gè)感知器建立在一個(gè)線性神經(jīng)元之上，神經(jīng)元模型的求和節(jié)點(diǎn)計(jì)算作用于突觸輸入的線性組合，同時(shí)結(jié)合外部作用的偏置，對(duì)若干個(gè)突觸的輸入求和后進(jìn)行調(diào)節(jié)。為了便于觀察，這里的數(shù)據(jù)采用二維數(shù)據(jù)。

目標(biāo)函數(shù)是訓(xùn)練結(jié)果的誤差的平方和，由于目標(biāo)函數(shù)是一個(gè)二次函數(shù)，只存在一個(gè)全局極小值，所以采用梯度下降法的策略尋找目標(biāo)函數(shù)的最小值。

代碼如下：

import numpy as np 
import pylab as pl 
b=1    #偏置 
a=0.3   #學(xué)習(xí)率 
x=np.array([[b,1,3],[b,2,3],[b,1,8],[b,2,15],[b,3,7],[b,4,29],[b,4,8],[b,4,20]]) #訓(xùn)練數(shù)據(jù) 
d=np.array([1,1,-1,-1,1,-1,1,-1])          #訓(xùn)練數(shù)據(jù)類別 
w=np.array([b,0,0])            #初始w 
def sgn(v):         
 if v>=0: 
  return 1 
 else: 
  return -1 
def comy(myw,myx): 
 return sgn(np.dot(myw.T,myx)) 
def neww(oldw,myd,myx,a): 
 return oldw+a*(myd-comy(oldw,myx))*myx 
 
for ii in range(5):        #迭代次數(shù) 
 i=0 
 for xn in x: 
  w=neww(w,d[i],xn,a) 
  i+=1 
 print w 
 
myx=x[:,1]         #繪制訓(xùn)練數(shù)據(jù) 
myy=x[:,2] 
pl.subplot(111) 
x_max=np.max(myx)+15 
x_min=np.min(myx)-5 
y_max=np.max(myy)+50 
y_min=np.min(myy)-5 
pl.xlabel(u"x") 
pl.xlim(x_min,x_max) 
pl.ylabel(u"y") 
pl.ylim(y_min,y_max) 
for i in range(0,len(d)): 
 if d[i]==1: 
  pl.plot(myx[i],myy[i],'r*') 
 else: 
  pl.plot(myx[i],myy[i],'ro') 
#繪制測(cè)試點(diǎn) 
test=np.array([b,9,19]) 
if comy(w,test)>0: 
 pl.plot(test[1],test[2],'b*') 
else: 
 pl.plot(test[1],test[2],'bo') 
test=np.array([b,9,64]) 
if comy(w,test)>0: 
 pl.plot(test[1],test[2],'b*') 
else: 
 pl.plot(test[1],test[2],'bo') 
test=np.array([b,9,16]) 
if comy(w,test)>0: 
 pl.plot(test[1],test[2],'b*') 
else: 
 pl.plot(test[1],test[2],'bo') 
test=np.array([b,9,60]) 
if comy(w,test)>0: 
 pl.plot(test[1],test[2],'b*') 
else: 
 pl.plot(test[1],test[2],'bo') 
#繪制分類線 
testx=np.array(range(0,20)) 
testy=testx*2+1.68 
pl.plot(testx,testy,'g--') 
pl.show()  
for xn in x: 
 print "%d %d => %d" %(xn[1],xn[2],comy(w,xn))