Pytorch根據(jù)layers的name凍結(jié)訓(xùn)練方式
更新時(shí)間：2020年01月06日 09:27:31 作者：木有感情的機(jī)器人
今天小編就為大家分享一篇Pytorch根據(jù)layers的name凍結(jié)訓(xùn)練方式，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧
使用model.named_parameters()可以輕松搞定，
model.cuda()
# ######################################## Froze some layers to fine-turn the model ########################
for name, param in model.named_parameters(): # 帶有參數(shù)名的模型的各個(gè)層包含的參數(shù)遍歷
if 'out' or 'merge' or 'before_regress' in name: # 判斷參數(shù)名字符串中是否包含某些關(guān)鍵字
continue
param.requires_grad = False
# #############################################################################################################
optimizer = optim.SGD(filter(lambda p: p.requires_grad, model.parameters()),
lr=opt.learning_rate * args.world_size, momentum=0.9, weight_decay=5e-4)
以上這篇Pytorch根據(jù)layers的name凍結(jié)訓(xùn)練方式就是小編分享給大家的全部?jī)?nèi)容了，希望能給大家一個(gè)參考，也希望大家多多支持腳本之家。
相關(guān)文章
這篇文章主要介紹了快速查詢Python文檔方法分享，具有一定借鑒價(jià)值,需要的朋友可以參考下2017-12-12
python實(shí)現(xiàn)pptx批量向PPT中插入圖片
大家好，本篇文章主要講的是python實(shí)現(xiàn)pptx批量向PPT中插入圖片，感興趣的同學(xué)趕快來(lái)看一看吧，對(duì)你有幫助的話記得收藏一下2022-02-02
這篇文章主要為大家詳細(xì)介紹了python傅里葉變換FFT繪制頻譜圖，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下2019-07-07
今天小編就為大家分享一篇pytorch 模型可視化的例子，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2019-08-08
pytorch如何凍結(jié)某層參數(shù)的實(shí)現(xiàn)
這篇文章主要介紹了pytorch如何凍結(jié)某層參數(shù)的實(shí)現(xiàn)，文中通過(guò)示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2020-01-01
基于Python的A*算法解決八數(shù)碼問(wèn)題實(shí)現(xiàn)步驟
這篇文章主要給大家介紹了關(guān)于如何基于Python的A*算法解決八數(shù)碼問(wèn)題的實(shí)現(xiàn)步驟,文中介紹了八數(shù)碼問(wèn)題及其求解方法,通過(guò)啟發(fā)式搜索算法,特別是A*算法,可以有效地解決八數(shù)碼問(wèn)題,,需要的朋友可以參考下2024-11-11
Python中的XML庫(kù)4Suite Server的介紹
這篇文章主要介紹了Python中的XML庫(kù)4Suite Server,來(lái)自于IBM官方網(wǎng)站,需要的朋友可以參考下2015-04-04
python 實(shí)現(xiàn)批量xls文件轉(zhuǎn)csv文件的方法
今天小編就為大家分享一篇python 實(shí)現(xiàn)批量xls文件轉(zhuǎn)csv文件的方法，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2018-10-10
正在學(xué)習(xí)python而且自己一直在用金山快盤，所以就寫來(lái)個(gè)簽到的功能，每天定時(shí)跑2013-01-01
這篇文章主要介紹了python 如何利用zmail庫(kù)發(fā)送郵件，幫助大家更好的理解和學(xué)習(xí)python，感興趣的朋友可以了解下2020-09-09