pytorch之torch.nn.Identity()的作用及解釋
torch.nn.Identity()的作用及解釋
class Identity(Module):
r"""A placeholder identity operator that is argument-insensitive.
Args:
args: any argument (unused)
kwargs: any keyword argument (unused)
Examples::
>>> m = nn.Identity(54, unused_argument1=0.1, unused_argument2=False)
>>> input = torch.randn(128, 20)
>>> output = m(input)
>>> print(output.size())
torch.Size([128, 20])
"""
def __init__(self, *args, **kwargs):
super(Identity, self).__init__()
def forward(self, input: Tensor) -> Tensor:
return input通過閱讀源碼可以看到，identity模塊不改變輸入。
直接return input
一種編碼技巧吧，比如我們要加深網(wǎng)絡(luò)，有些層是不改變輸入數(shù)據(jù)的維度的，
在增減網(wǎng)絡(luò)的過程中我們就可以用identity占個位置，這樣網(wǎng)絡(luò)整體層數(shù)永遠(yuǎn)不變，
看起來可能舒服一些，
可能理解的不到位。。。。
Pytorch-torch.nn.identity()方法
identity模塊不改變輸入，直接return input
一種編碼技巧吧，比如我們要加深網(wǎng)絡(luò)，有些層是不改變輸入數(shù)據(jù)的維度的，在增減網(wǎng)絡(luò)的過程中我們就可以用identity占個位置，這樣網(wǎng)絡(luò)整體層數(shù)永遠(yuǎn)不變，
應(yīng)用：
例如此時：如果此時我們使用了se_layer，那么就SELayer(dim)，否則就輸入什么就輸出什么（什么都不做）
m = nn.Identity(54, unused_argument1=0.1, unused_argument2=False) input = torch.randn(128, 20) output = m(input) print(output.size()) >> torch.Size([128, 20])
總結(jié)
以上為個人經(jīng)驗(yàn)，希望能給大家一個參考，也希望大家多多支持腳本之家。
相關(guān)文章
淺談Python peewee 使用經(jīng)驗(yàn)
這篇文章主要介紹了淺談Python peewee 使用經(jīng)驗(yàn)，小編覺得挺不錯的，現(xiàn)在分享給大家，也給大家做個參考。一起跟隨小編過來看看吧2017-10-10
python使用ctypes調(diào)用擴(kuò)展模塊的實(shí)例方法
在本篇文章里小編給大家整理的是一篇關(guān)于python使用ctypes調(diào)用擴(kuò)展模塊的實(shí)例方法內(nèi)容，需要的朋友們可以學(xué)習(xí)參考下。2020-01-01
文章主要介紹了如何在Django項(xiàng)目的`settings.py`文件中配置日志記錄,并使用日志模塊記錄不同級別的日志,日志級別包括DEBUG、INFO、WARNING、ERROR和CRITICAL,級別越高,記錄的日志越詳細(xì),通過配置和使用日志記錄器,可以更好地排查和監(jiān)控系統(tǒng)問題2025-01-01
Python字典的鍵值對結(jié)構(gòu)與增刪改查操作詳解
本文介紹了Python中字典的鍵值對結(jié)構(gòu)及其增刪改查操作,強(qiáng)調(diào)了其重要性并從核心概念、技術(shù)原理、實(shí)踐應(yīng)用、常見問題與解決方案以及最佳實(shí)踐等方面進(jìn)行詳細(xì)講解,幫助讀者理解和掌握字典的使用方法,需要的朋友可以參考下2026-04-04
python實(shí)現(xiàn)網(wǎng)站用戶名密碼自動登錄功能
最近接到這樣的需求通過網(wǎng)頁用戶認(rèn)證登錄實(shí)現(xiàn)上網(wǎng)，如何實(shí)現(xiàn)網(wǎng)站自動登錄功能呢，接下來小編給大家?guī)砹藀ython實(shí)現(xiàn)網(wǎng)站用戶名密碼自動登錄功能,需要的朋友可以參考下2019-08-08
總結(jié)python實(shí)現(xiàn)父類調(diào)用兩種方法的不同
最近在工作中實(shí)現(xiàn)父類調(diào)用的時候發(fā)現(xiàn)了一個錯誤，然后通過分析實(shí)踐總結(jié)出來了，下面這篇文章主要給大家總結(jié)了python中實(shí)現(xiàn)父類調(diào)用兩種方法的不同之處,需要的朋友可以參考借鑒，下面來一起看看吧。2017-01-01
python作為當(dāng)前非常受歡迎的編程語言,很大一部分原因是擁有豐富的庫,這篇文章主要給大家介紹了關(guān)于Python游戲開發(fā)之精靈和精靈組的相關(guān)資料,文中通過圖文介紹的非常詳細(xì),需要的朋友可以參考下2023-05-05
Python將Excel轉(zhuǎn)換為多種圖片格式的方法(PNG, JPG, BMP, SVG)
有時,你可能希望以圖片形式分享Excel數(shù)據(jù),以防止他人對數(shù)據(jù)進(jìn)行修改或編輯,將Excel轉(zhuǎn)換為圖片可以將數(shù)據(jù)鎖定為靜態(tài)圖片,確保數(shù)據(jù)的完整性和準(zhǔn)確性,這篇文章將探討如何使用Python實(shí)現(xiàn)將Excel工作表轉(zhuǎn)換為多種圖片格式,如PNG,JPG,BMP和SVG,需要的朋友可以參考下2025-03-03
Python利用matplotlib生成圖片背景及圖例透明的效果
這篇文章主要給大家介紹了Python利用matplotlib生成圖片背景及圖例透明效果的相關(guān)資料，文中給出了詳細(xì)的示例代碼，相信對大家具有一定的參考家價值，需要的朋友們下面來一起學(xué)習(xí)學(xué)習(xí)吧。2017-04-04
Python?內(nèi)置模塊?argparse快速入門教程
argparse模塊是Python內(nèi)置的用于命令項(xiàng)選項(xiàng)與參數(shù)解析的模塊，argparse模塊可以讓人輕松編寫用戶友好的命令行接口，能夠幫助程序員為模型定義參數(shù)，這篇文章主要介紹了快速入門Python內(nèi)置模塊argparse,需要的朋友可以參考下2023-06-06