pytorch 模型的train模式與eval模式實例
原因
對于一些含有batch normalization或者是Dropout層的模型來說,訓(xùn)練時的froward和驗證時的forward有計算上是不同的,因此在前向傳遞過程中需要指定模型是在訓(xùn)練還是在驗證。
源代碼
[docs] def train(self, mode=True): r"""Sets the module in training mode. This has any effect only on certain modules. See documentations of particular modules for details of their behaviors in training/evaluation mode, if they are affected, e.g. :class:`Dropout`, :class:`BatchNorm`, etc. Returns: Module: self """ self.training = mode for module in self.children(): module.train(mode) return self [docs] def eval(self): r"""Sets the module in evaluation mode. This has any effect only on certain modules. See documentations of particular modules for details of their behaviors in training/evaluation mode, if they are affected, e.g. :class:`Dropout`, :class:`BatchNorm`, etc. """ #該方法調(diào)用了nn.train()方法,把參數(shù)默認值改為false. 增加聚合性 return self.train(False)
在使用含有BN層,dropout層的神經(jīng)網(wǎng)路來說,必須要區(qū)分訓(xùn)練和驗證
以上這篇pytorch 模型的train模式與eval模式實例就是小編分享給大家的全部內(nèi)容了,希望能給大家一個參考,也希望大家多多支持腳本之家。
相關(guān)文章
用Python實現(xiàn)一個簡單的能夠上傳下載的HTTP服務(wù)器
這篇文章主要介紹了用Python實現(xiàn)一個簡單的能夠上傳下載的HTTP服務(wù)器,是Python網(wǎng)絡(luò)編程學(xué)習(xí)當中的基礎(chǔ),本文示例基于Windows操作系統(tǒng)實現(xiàn),需要的朋友可以參考下2015-05-05
python使用tkinter實現(xiàn)自定義多參數(shù)對話框
Tkinter模塊是Python標準庫中的一部分,用于創(chuàng)建圖形用戶界面(GUI)應(yīng)用程序,它提供了一組工具和組件,用于創(chuàng)建窗口、按鈕、文本框等用戶界面元素,并且可以響應(yīng)用戶的輸入,本文將給大家講講python如何使用tkinter實現(xiàn)自定義多參數(shù)對話框2023-08-08
python進程的狀態(tài)、創(chuàng)建及使用方法詳解
這篇文章主要介紹了python進程的狀態(tài)、創(chuàng)建及使用方法,結(jié)合實例形式詳細分析了Python進程的概念、原理、工作狀態(tài)、創(chuàng)建以及使用方法,需要的朋友可以參考下2019-12-12
Django+python服務(wù)器部署與環(huán)境部署教程詳解
這篇文章主要介紹了Django+python服務(wù)器部署與環(huán)境部署教程,本文通過圖文并茂的形式給大家介紹的非常詳細,對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值,需要的朋友可以參考下2020-03-03
python利用re,bs4,requests模塊獲取股票數(shù)據(jù)
這篇文章主要介紹了python利用re,bs4,requests模塊獲取股票數(shù)據(jù),文中通過示例代碼介紹的非常詳細,對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友可以參考下2019-07-07
python處理自動化任務(wù)之同時批量修改word里面的內(nèi)容的方法
在本篇文章里小編給各位整理的是一篇關(guān)于利用python處理自動化任務(wù)之同時批量修改word里面的內(nèi)容的文章,需要的可以參考學(xué)習(xí)下。2019-08-08

