使用PyTorch/TensorFlow搭建簡單全連接神經(jīng)網(wǎng)絡

更新時間：2025年02月27日 08:52:29 作者：gs80140

在本篇博客中,我們將介紹如何使用兩大深度學習框架——PyTorch 和 TensorFlow,構建一個簡單的全連接神經(jīng)網(wǎng)絡,該網(wǎng)絡包含輸入層、一個隱藏層和輸出層,適合初學者理解神經(jīng)網(wǎng)絡的基本構建模塊及訓練流程,需要的朋友可以參考下

網(wǎng)絡結構概述

我們的全連接神經(jīng)網(wǎng)絡（Fully Connected Neural Network，F(xiàn)CNN）由以下部分構成：

輸入層：接收數(shù)據(jù)特征向量（例如，長度為 10 的向量）。
隱藏層：通過一個全連接層將輸入進行非線性映射，通常會使用激活函數(shù)（如 ReLU）來增加模型的表達能力。
輸出層：根據(jù)具體任務輸出預測結果，例如回歸任務輸出單個連續(xù)值。

這種結構雖然簡單，但能幫助我們理解前向傳播、反向傳播及梯度下降等基本概念。

1. 使用 PyTorch 構建網(wǎng)絡

PyTorch 提供了靈活的動態(tài)計算圖和簡潔的 API，非常適合快速原型開發(fā)。下面是一個完整示例：

import torch
import torch.nn as nn
import torch.optim as optim
 
# 定義一個簡單的全連接神經(jīng)網(wǎng)絡
class SimpleFCNN(nn.Module):
    def __init__(self, input_size, hidden_size, output_size):
        super(SimpleFCNN, self).__init__()
        self.fc1 = nn.Linear(input_size, hidden_size)  # 輸入層到隱藏層
        self.relu = nn.ReLU()                           # 激活函數(shù)
        self.fc2 = nn.Linear(hidden_size, output_size)  # 隱藏層到輸出層
 
    def forward(self, x):
        out = self.fc1(x)
        out = self.relu(out)
        out = self.fc2(out)
        return out
 
# 超參數(shù)設置
input_size = 10      # 輸入特征數(shù)量
hidden_size = 5      # 隱藏層節(jié)點數(shù)
output_size = 1      # 輸出節(jié)點數(shù)
learning_rate = 0.001
num_epochs = 100
 
# 實例化模型、定義損失函數(shù)和優(yōu)化器
model = SimpleFCNN(input_size, hidden_size, output_size)
criterion = nn.MSELoss()  # 均方誤差損失，用于回歸問題
optimizer = optim.Adam(model.parameters(), lr=learning_rate)
 
# 構造一些模擬數(shù)據(jù)
x_train = torch.randn(100, input_size)
y_train = torch.randn(100, output_size)
 
# 訓練模型
for epoch in range(num_epochs):
    outputs = model(x_train)
    loss = criterion(outputs, y_train)
 
    optimizer.zero_grad()  # 梯度清零
    loss.backward()        # 反向傳播
    optimizer.step()       # 更新參數(shù)
 
    if (epoch + 1) % 10 == 0:
        print(f'Epoch [{epoch + 1}/{num_epochs}], Loss: {loss.item():.4f}')

解析：

模型定義：我們創(chuàng)建了一個繼承自 nn.Module 的類 SimpleFCNN，其中 nn.Linear 用于構建全連接層，nn.ReLU 作為激活函數(shù)。
訓練循環(huán)：每個 epoch 中，我們計算模型輸出與真實標簽之間的均方誤差（MSE），然后利用 optimizer 對參數(shù)進行梯度下降更新。

2. 使用 TensorFlow 構建網(wǎng)絡

TensorFlow 通過 Keras 接口提供了直觀且高層次的 API 來搭建模型，適合快速搭建原型。下面是使用 TensorFlow 的示例代碼：

import tensorflow as tf
from tensorflow.keras.models import Sequential
from tensorflow.keras.layers import Dense
 
# 超參數(shù)設置
input_size = 10      # 輸入特征數(shù)量
hidden_size = 5      # 隱藏層節(jié)點數(shù)
output_size = 1      # 輸出節(jié)點數(shù)
learning_rate = 0.001
num_epochs = 100
batch_size = 10
 
# 構建順序模型
model = Sequential([
    Dense(hidden_size, activation='relu', input_shape=(input_size,)),  # 輸入層到隱藏層
    Dense(output_size)                                                 # 輸出層
])
 
# 編譯模型：指定優(yōu)化器和損失函數(shù)（這里依然使用均方誤差）
model.compile(optimizer=tf.keras.optimizers.Adam(learning_rate=learning_rate),
              loss='mse')
 
# 構造一些模擬數(shù)據(jù)
import numpy as np
x_train = np.random.randn(100, input_size)
y_train = np.random.randn(100, output_size)
 
# 訓練模型
history = model.fit(x_train, y_train, epochs=num_epochs, batch_size=batch_size, verbose=2)

解析：