最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

yolov5訓練時參數(shù)workers與batch-size的深入理解

 更新時間:2022年03月24日 16:27:14   作者:flamebox  
最近再學習YOLOv3與YOLOv5訓練數(shù)據(jù)集的具體步驟,幾經(jīng)波折終于實現(xiàn)了很好的效果,這篇文章主要給大家介紹了關(guān)于yolov5訓練時參數(shù)workers與batch-size的相關(guān)資料,文中通過實例代碼介紹的非常詳細,需要的朋友可以參考下

yolov5訓練命令

 python .\train.py --data my.yaml --workers 8 --batch-size 32 --epochs 100

yolov5的訓練很簡單,下載好倉庫,裝好依賴后,只需自定義一下data目錄中的yaml文件就可以了。這里我使用自定義的my.yaml文件,里面就是定義數(shù)據(jù)集位置和訓練種類數(shù)和名字。

workers和batch-size參數(shù)的理解

一般訓練主要需要調(diào)整的參數(shù)是這兩個:

workers

指數(shù)據(jù)裝載時cpu所使用的線程數(shù),默認為8。代碼解釋如下

parser.add_argument('--workers', type=int, default=8, help='max dataloader workers (per RANK in DDP mode)')

一般默使用8的話,會報錯~~。原因是爆系統(tǒng)內(nèi)存,除了物理內(nèi)存外,需要調(diào)整系統(tǒng)的虛擬內(nèi)存。訓練時主要看已提交哪里的實際值是否會超過最大值,超過了不是強退程序就是報錯。

所以需要根據(jù)實際情況分配系統(tǒng)虛擬內(nèi)存(python執(zhí)行程序所在的盤)的最大值

batch-size

就是一次往GPU哪里塞多少張圖片了。決定了顯存占用大小,默認是16。

parser.add_argument('--batch-size', type=int, default=16, help='total batch size for all GPUs, -1 for autobatch')

訓練時顯存占用越大當然效果越好,但如果爆顯存,也是會無法訓練的。我使用–batch-size 32時,顯存差不多能利用完。

兩個參數(shù)的調(diào)優(yōu)

對于workers,并不是越大越好,太大時gpu其實處理不過來,訓練速度一樣,但虛擬內(nèi)存(磁盤空間)會成倍占用。

workers為4時的內(nèi)存占用

workers為4時的內(nèi)存占用

workers為8時的內(nèi)存占用

workers為8時的內(nèi)存占用

我的顯卡是rtx3050,實際使用中上到4以上就差別不大了,gpu完全吃滿了。但是如果設置得太小,gpu會跑不滿。比如當workers=1時,顯卡功耗只得72W,速度慢了一半;workers=4時,顯卡功耗能上到120+w,完全榨干了顯卡的算力。所以需要根據(jù)你實際的算力調(diào)整這個參數(shù)。

2. 對于batch-size,有點玄學。理論是能盡量跑滿顯存為佳,但實際測試下來,發(fā)現(xiàn)當為8的倍數(shù)時效率更高一點。就是32時的訓練效率會比34的高一點,這里就不太清楚原理是什么了,實際操作下來是這樣。

總結(jié)

以上參數(shù)的調(diào)整能最大化顯卡的使用效率,其中的具體數(shù)值和電腦的實際配置還有模型大小、數(shù)據(jù)集大小有關(guān),需要根據(jù)實際情況反復調(diào)整。當然,要實質(zhì)提升訓練速度,還是得有好顯卡(鈔能力)~~~~

相關(guān)文章

最新評論

油尖旺区| 张家口市| 巨野县| 炉霍县| 丰顺县| 武城县| 百色市| 西林县| 射洪县| 龙陵县| 九龙县| 汽车| 浏阳市| 广南县| 阿坝县| 茂名市| 西宁市| 新兴县| 南郑县| 桂林市| 鹿邑县| 牡丹江市| 竹溪县| 长岭县| 碌曲县| 资兴市| 石门县| 屏边| 府谷县| 漳州市| 鸡西市| 隆安县| 巍山| 新巴尔虎右旗| 鸡西市| 铜梁县| 壶关县| 嘉鱼县| 菏泽市| 广丰县| 慈利县|