快捷導(dǎo)航

Pytorch dataloader在加載最后一個(gè)batch時(shí)卡死的解決

更新時(shí)間：2021年05月28日 10:15:47 作者：Wilber529

這篇文章主要介紹了Pytorch dataloader在加載最后一個(gè)batch時(shí)卡死的解決方案，具有很好的參考價(jià)值，希望對大家有所幫助。如有錯(cuò)誤或未考慮完全的地方，望不吝賜教

問題：

自己寫了個(gè)dataloader，為了部署方便，用OpenCV的接口進(jìn)行數(shù)據(jù)讀取，而沒有用PIL，代碼大致如下：

    def __getitem__(self, idx):
        sample = self.samples[idx]
 
        img = cv2.imread(sample[0])
        img = cv2.resize(img, tuple(self.input_size))
        img = cv2.cvtColor(img, cv2.COLOR_BGR2RGB)
        # if not self.val and random.randint(1, 10) < 3:
        #     img = self.img_aug(img)
        img = Image.fromarray(img) 
        img = self.transforms(img)        
        ...

結(jié)果在訓(xùn)練過程中，在第1個(gè)epoch的最后一個(gè)batch時(shí)，程序卡死。

解決方案：

可能是因?yàn)镺penCV與Pytorch互鎖的問題，關(guān)閉OpenCV的多線程，問題解決。

cv2.setNumThreads(0)
cv2.ocl.setUseOpenCL(False)

補(bǔ)充：pytorch 中一個(gè)batch的訓(xùn)練過程

# 一般情況下
optimizer.zero_grad()             # 梯度清零
preds = model(inputs)             # inference，前向傳播求出預(yù)測值
loss = criterion(preds, targets)  # 計(jì)算loss
loss.backward()                   # 反向傳播求解梯度
optimizer.step()                  # 更新權(quán)重，更新網(wǎng)絡(luò)權(quán)重參數(shù)

此外，反向傳播前，如果不進(jìn)行梯度清零，則可以實(shí)現(xiàn)梯度累加，從而一定程度上解決顯存受限的問題。

以上為個(gè)人經(jīng)驗(yàn)，希望能給大家一個(gè)參考，也希望大家多多支持腳本之家。

您可能感興趣的文章:

相關(guān)文章

解決jupyter加載文件失敗的問題
這篇文章主要介紹了解決jupyter加載文件失敗的問題，具有很好的參考價(jià)值，希望對大家有所幫助。一起跟隨小編過來看看吧
2021-03-03
Python面向?qū)ο缶幊讨庋b的藝術(shù)你了解嗎
這篇文章主要為大家詳細(xì)介紹了Python面向?qū)ο缶幊讨庋b的藝術(shù)，文中示例代碼介紹的非常詳細(xì)，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下，希望能夠給你帶來幫助
2022-02-02
Python?list?append方法之給列表追加元素
這篇文章主要介紹了Python?list?append方法如何給列表追加元素，具有很好的參考價(jià)值，希望對大家有所幫助。如有錯(cuò)誤或未考慮完全的地方，望不吝賜教
2022-11-11
使用Python構(gòu)建一個(gè)Hexo博客發(fā)布工具
雖然Hexo的命令行工具非常強(qiáng)大,但對于日常的博客撰寫和發(fā)布過程,我總覺得缺少一個(gè)直觀的圖形界面來簡化操作,下面我們就來看看如何使用Python構(gòu)建一個(gè)Hexo博客發(fā)布工具吧
2025-04-04
對Python w和w+權(quán)限的區(qū)別詳解
今天小編就為大家分享一篇對Python w和w+權(quán)限的區(qū)別詳解，具有很好的參考價(jià)值，希望對大家有所幫助。一起跟隨小編過來看看吧
2019-01-01
python讀取圖片并修改格式與大小的方法
這篇文章主要為大家詳細(xì)介紹了python讀取圖片并修改格式與大小的方法，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下
2018-07-07
python操作excel讓工作自動化
這篇文章主要為大家詳細(xì)介紹了python如何操作excel讓工作自動化，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下
2019-08-08
Python字符串的字符轉(zhuǎn)換、字符串劈分、字符串合并問題分析
這篇文章主要介紹了Python字符串的字符轉(zhuǎn)換、字符串劈分、字符串合并,本文通過實(shí)例代碼給大家介紹的非常詳細(xì)，對大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值，需要的朋友可以參考下
2023-03-03
keras建模的3種方式詳解
這篇文章主要介紹了keras建模的3種方式詳解,keras是Google公司于2016年發(fā)布的以tensorflow為后端的用于深度學(xué)習(xí)網(wǎng)絡(luò)訓(xùn)練的高階API,因接口設(shè)計(jì)非常人性化,深受程序員的喜愛,需要的朋友可以參考下
2023-08-08
深入理解Python?@dataclass的內(nèi)部原理
文章介紹了Python中dataclass的實(shí)現(xiàn)原理,通過自定義裝飾器實(shí)現(xiàn)了__init__和__repr__方法,并解釋了__annotations__屬性和exec函數(shù)在其中的作用,感興趣的朋友跟隨小編一起看看吧
2025-01-01