關(guān)于Pytorch的MLP模塊實(shí)現(xiàn)方式
更新時間：2020年01月07日 17:06:19 作者：黃鑫huangxin
今天小編就為大家分享一篇關(guān)于Pytorch的MLP模塊實(shí)現(xiàn)方式，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧
MLP分類效果一般好于線性分類器，即將特征輸入MLP中再經(jīng)過softmax來進(jìn)行分類。
具體實(shí)現(xiàn)為將原先線性分類模塊：
self.classifier = nn.Linear(config.hidden_size, num_labels)
替換為：
self.classifier = MLP(config.hidden_size, num_labels)
并且添加MLP模塊：
class MLP(nn.Module):
def __init__(self, input_size, common_size):
super(MLP, self).__init__()
self.linear = nn.Sequential(
nn.Linear(input_size, input_size // 2),
nn.ReLU(inplace=True),
nn.Linear(input_size // 2, input_size // 4),
nn.ReLU(inplace=True),
nn.Linear(input_size // 4, common_size)
)
def forward(self, x):
out = self.linear(x)
return out
看一下模塊結(jié)構(gòu)：
mlp = MLP(1000,3) print(mlp)
以上這篇關(guān)于Pytorch的MLP模塊實(shí)現(xiàn)方式就是小編分享給大家的全部內(nèi)容了，希望能給大家一個參考，也希望大家多多支持腳本之家。
相關(guān)文章
python實(shí)現(xiàn)切割url得到域名、協(xié)議、主機(jī)名等各個字段的例子
今天小編就為大家分享一篇python實(shí)現(xiàn)切割url得到域名、協(xié)議、主機(jī)名等各個字段的例子，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2019-07-07
import在python中的意思是用來調(diào)用模塊的,下面這篇文章主要給大家介紹了關(guān)于python中import詳解的相關(guān)資料,文中通過實(shí)例代碼介紹的非常詳細(xì),需要的朋友可以參考下2022-02-02
這篇文章主要介紹了Python中defaultdict與dict的差異，在collections模塊中的defauldict使用時與dict有何不同，為何我們用dict中的key值不存在時會報錯，而defaudict不會報錯，下面文章做出解答,需要的朋友可以參考一下2021-11-11
YAML是可讀性高，用來表達(dá)數(shù)據(jù)序列化格式的，專用于寫配置文件的語言，這篇文章主要介紹了Python使用yaml模塊操作YAML文檔,需要的朋友可以參考下2023-01-01
Python 內(nèi)置函數(shù)complex詳解
這篇文章主要介紹了Python 內(nèi)置函數(shù)complex詳解的相關(guān)資料,需要的朋友可以參考下2016-10-10
OpenCV是一個開源庫,包含了許多計算機(jī)視覺算法,它在計算機(jī)視覺和圖像處理中起著重要作用,用于實(shí)時操作,其效率足以滿足工業(yè)上的要求,這篇文章主要給大家介紹了關(guān)于opencv python簡易文檔之圖像處理算法的相關(guān)資料,需要的朋友可以參考下2021-08-08
Python中的分支與循環(huán)結(jié)構(gòu)解讀
這篇文章主要介紹了Python中的分支與循環(huán)結(jié)構(gòu)解讀,在Python編程中,分支(Branch)和循環(huán)(Loop)是掌握的關(guān)鍵要素之一,它們允許您根據(jù)條件執(zhí)行不同的代碼塊,以及重復(fù)執(zhí)行特定任務(wù),需要的朋友可以參考下2023-10-10
下面小編就為大家分享一篇對numpy中布爾型數(shù)組的處理方法詳解，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2018-04-04
Python語言檢測模塊langid和langdetect的使用實(shí)例
今天小編就為大家分享一篇關(guān)于Python語言檢測模塊langid和langdetect的使用實(shí)例，小編覺得內(nèi)容挺不錯的，現(xiàn)在分享給大家，具有很好的參考價值，需要的朋友一起跟隨小編來看看吧2019-02-02
在本篇文章里小編給大家整理了關(guān)于python字典key不能是可以是啥類型的相關(guān)知識點(diǎn)，需要的朋友們可以參考下。2020-08-08