快捷導(dǎo)航

python神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)利用PyTorch進(jìn)行回歸運算

更新時間：2022年05月04日 10:31:04 作者：Bubbliiiing

這篇文章主要為大家介紹了python神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)利用PyTorch進(jìn)行回歸運算的實現(xiàn)代碼，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進(jìn)步，早日升職加薪

學(xué)習(xí)前言

我發(fā)現(xiàn)不僅有很多的Keras模型，還有很多的PyTorch模型，還是學(xué)學(xué)Pytorch吧，我也想了解以下tensor到底是個啥。

PyTorch中的重要基礎(chǔ)函數(shù)

1、class Net(torch.nn.Module)神經(jīng)網(wǎng)絡(luò)的構(gòu)建:

PyTorch中神經(jīng)網(wǎng)絡(luò)的構(gòu)建和Tensorflow的不一樣，它需要用一個類來進(jìn)行構(gòu)建(后面還可以用與Keras類似的Sequential模型構(gòu)建)，當(dāng)然基礎(chǔ)還是用類構(gòu)建，這個類需要繼承PyTorch中的神經(jīng)網(wǎng)絡(luò)模型，torch.nn.Module，具體構(gòu)建方式如下：

# 繼承torch.nn.Module模型
class Net(torch.nn.Module):
	# 重載初始化函數(shù)（我忘了這個是不是叫重載）
    def __init__(self, n_feature, n_hidden, n_output):
        super(Net, self).__init__()
        # Applies a linear transformation to the incoming data: :math:y = xA^T + b
        # 全連接層，公式為y = xA^T + b
        # 在初始化的同時構(gòu)建兩個全連接層（也就是一個隱含層）
        self.hidden = torch.nn.Linear(n_feature, n_hidden)
        self.predict = torch.nn.Linear(n_hidden, n_output)
	# forward函數(shù)用于構(gòu)建前向傳遞的過程
    def forward(self, x):
        # 隱含層的輸出
        hidden_layer = functional.relu(self.hidden(x))
        # 實際的輸出
        output_layer = self.predict(hidden_layer)
        return output_layer

該部分構(gòu)建了一個含有一層隱含層的神經(jīng)網(wǎng)絡(luò)，隱含層神經(jīng)元個數(shù)為n_hidden。
在建立了上述的類后，就可以通過如下函數(shù)建立神經(jīng)網(wǎng)絡(luò)：

net = Net(n_feature=1, n_hidden=10, n_output=1)

2、optimizer優(yōu)化器

optimizer用于構(gòu)建模型的優(yōu)化器，與tensorflow中優(yōu)化器的意義相同，PyTorch的優(yōu)化器在前綴為torch.optim的庫中。

優(yōu)化器需要傳入net網(wǎng)絡(luò)的參數(shù)。

具體使用方式如下：

# torch.optim是優(yōu)化器模塊
# Adam可以改成其它優(yōu)化器，如SGD、RMSprop等
optimizer = torch.optim.Adam(net.parameters(), lr=1e-3)

3、loss損失函數(shù)定義

loss用于定義神經(jīng)網(wǎng)絡(luò)訓(xùn)練的損失函數(shù)，常用的損失函數(shù)是均方差損失函數(shù)（回歸）和交叉熵?fù)p失函數(shù)（分類）。

具體使用方式如下：

# 均方差lossloss_func = torch.nn.MSELoss()

4、訓(xùn)練過程

訓(xùn)練過程分為三個步驟：

1、利用網(wǎng)絡(luò)預(yù)測結(jié)果。

prediction = net(x)

2、利用預(yù)測的結(jié)果與真實值對比生成loss。

loss = loss_func(prediction, y)

3、進(jìn)行反向傳遞（該部分有三步）。

# 均方差loss
# 反向傳遞步驟
# 1、初始化梯度
optimizer.zero_grad()
# 2、計算梯度
loss.backward()
# 3、進(jìn)行optimizer優(yōu)化
optimizer.step()

全部代碼

這是一個簡單的回歸預(yù)測模型。

import torch
from torch.autograd import Variable
import torch.nn.functional as functional
import matplotlib.pyplot as plt
import numpy as np
# x的shape為(100,1)
x = torch.from_numpy(np.linspace(-1,1,100).reshape([100,1])).type(torch.FloatTensor)
# y的shape為(100,1)
y = torch.sin(x) + 0.2*torch.rand(x.size())
class Net(torch.nn.Module):
    def __init__(self, n_feature, n_hidden, n_output):
        super(Net, self).__init__()
        # Applies a linear transformation to the incoming data: :math:y = xA^T + b
        # 全連接層，公式為y = xA^T + b
        self.hidden = torch.nn.Linear(n_feature, n_hidden)
        self.predict = torch.nn.Linear(n_hidden, n_output)
    def forward(self, x):
        # 隱含層的輸出
        hidden_layer = functional.relu(self.hidden(x))
        output_layer = self.predict(hidden_layer)
        return output_layer
# 類的建立
net = Net(n_feature=1, n_hidden=10, n_output=1)
# torch.optim是優(yōu)化器模塊
optimizer = torch.optim.Adam(net.parameters(), lr=1e-3)
# 均方差loss
loss_func = torch.nn.MSELoss() 
for t in range(1000):
    prediction = net(x)
    loss = loss_func(prediction, y)
    # 反向傳遞步驟
    # 1、初始化梯度
    optimizer.zero_grad()
    # 2、計算梯度
    loss.backward()
    # 3、進(jìn)行optimizer優(yōu)化
    optimizer.step()
    if t & 50 == 0:
        print("The loss is",loss.data.numpy())

運行結(jié)果為：

The loss is 0.27913737
The loss is 0.2773982
The loss is 0.27224126
…………
The loss is 0.0035993527
The loss is 0.0035974088
The loss is 0.0035967692

以上就是python神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)利用PyTorch進(jìn)行回歸運算的詳細(xì)內(nèi)容，更多關(guān)于python神經(jīng)網(wǎng)絡(luò)PyTorch回歸運算的資料請關(guān)注腳本之家其它相關(guān)文章！

您可能感興趣的文章: