python中torch.nn.identity()方法詳解
更新時間：2022年03月24日 16:33:35 作者：sigmoidAndRELU
今天看源碼時遇到的這個恒等函數(shù),就如同名字那樣占位符,并沒有實際操作,下面這篇文章主要給大家介紹了關(guān)于python中torch.nn.identity()方法的相關(guān)資料,需要的朋友可以參考下
先看代碼
m = nn.Identity( 54, unused_argument1=0.1, unused_argument2=False ) input = torch.randn(128, 20) output = m(input) >>> print(output.size()) torch.Size([128, 20])
這是官方文檔中給出的代碼，很明顯，沒有什么變化，輸入的是torch，輸出也是，并且給定的參數(shù)似乎并沒有起到變化的效果。
看源碼
class Identity(Module):
r"""A placeholder identity operator that is argument-insensitive.
Args:
args: any argument (unused)
kwargs: any keyword argument (unused)
Examples::
>>> m = nn.Identity(54, unused_argument1=0.1, unused_argument2=False)
>>> input = torch.randn(128, 20)
>>> output = m(input)
>>> print(output.size())
torch.Size([128, 20])
"""
def __init__(self, *args, **kwargs):
super(Identity, self).__init__()
def forward(self, input: Tensor) -> Tensor:
return input
這相當(dāng)?shù)暮啙嵜髁税?，輸入是啥，直接給輸出，不做任何的改變。再看文檔中的一句話：A placeholder identity operator that is argument-insensitive.
翻譯一下就是：不區(qū)分參數(shù)的占位符標識運算符。百度翻譯，其實意思就是這個網(wǎng)絡(luò)層的設(shè)計是用于占位的，即不干活，只是有這么一個層，放到殘差網(wǎng)絡(luò)里就是在跳過連接的地方用這個層，顯得沒有那么空虛！
應(yīng)用
例如此時：如果此時我們使用了se_layer，那么就SELayer(dim)，否則就輸入什么就輸出什么（什么都不做）
總結(jié)
到此這篇關(guān)于python中torch.nn.identity()方法的文章就介紹到這了,更多相關(guān)python torch.nn.identity()方法內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！
相關(guān)文章
這篇文章主要介紹了Python玩轉(zhuǎn)各種多媒體，視頻、音頻到圖片,本文通過實例代碼給大家介紹的非常詳細，對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值，需要的朋友可以參考下2020-06-06
pytorch實現(xiàn)seq2seq時對loss進行mask的方式
今天小編就為大家分享一篇pytorch實現(xiàn)seq2seq時對loss進行mask的方式，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2020-02-02
Python?pycharm提交代碼遇到?jīng)_突解決方法
這篇文章主要介紹了Python?pycharm提交代碼遇到?jīng)_突解決方法，文章圍繞主題展開詳細的內(nèi)容介紹，具有一定的參考價值，需要的小伙伴可以參考一下2022-08-08
解析pip安裝第三方庫但PyCharm中卻無法識別的問題及PyCharm安裝第三方庫的方法教程
這篇文章主要介紹了解析pip安裝第三方庫但PyCharm中卻無法識別的問題及PyCharm安裝第三方庫的方法教程,本文圖文并茂給大家介紹的非常詳細，對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值，需要的朋友可以參考下2020-03-03
使用python編程時,改變控制臺或終端中輸出字體的顏色和格式,會顯著提升代碼質(zhì)量,快速幫助我們定位問題和鎖定重要輸出,但是一般情況下,python控制臺輸出的字體默認為白色,所以這篇文章給大家介紹了如何利用Python控制終端打印字體的顏色和格式,需要的朋友可以參考下2024-06-06
這篇文章主要介紹了Python 多線程處理任務(wù)，下面文章利用一個真實實例圍繞Python 多線程處理任務(wù)的相關(guān)資料展開內(nèi)容,需要的朋友可以參考一下2021-11-11
這篇文章主要介紹了Flask中endpoint的理解(小結(jié))，文中通過示例代碼介紹的非常詳細，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2019-12-12
setting配置也經(jīng)常將一些配置混淆今天主要是介紹django中的setting最佳配置小結(jié)，需要的朋友參考下吧2017-11-11
今天小編就為大家分享一篇python 字符串只保留漢字的方法，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2018-11-11
Python內(nèi)置glob模塊是一個操作文件的相關(guān)模塊，由于模塊功能比較少，很容易掌握，這篇文章主要介紹了Python中g(shù)lob類的使用,需要的朋友可以參考下2022-12-12