淺談多卡服務(wù)器下隱藏部分 GPU 和 TensorFlow 的顯存使用設(shè)置
服務(wù)器有多張顯卡,一般是組里共用,分配好顯卡和任務(wù)就體現(xiàn)公德了。除了在代碼中指定使用的 GPU 編號,還可以直接設(shè)置可見 GPU 編號,使程序/用戶只對部分 GPU 可見。
操作很簡單,使用環(huán)境變量 CUDA_VISIBLE_DEVICES 即可。
具體來說,如果使用單卡運行 Python 腳本,則可輸入
CUDA_VISIBLE_DEVICES=1 python my_script.py
腳本將只使用 GPU1。
在 .py 腳本和 Notebook 中設(shè)置,則
import os
os.environ["CUDA_VISIBLE_DEVICES"] = "2"
還可以直接設(shè)置臨時的環(huán)境變量:
export CUDA_VISIBLE_DEVICES="0"
此時該用戶的 CUDA 只看得見 GPU0。
至于顯存設(shè)置,可以設(shè)置使用比例(70%):
gpu_options = tf.GPUOptions(per_process_gpu_memory_fraction=0.7)
sess = tf.Session(config=tf.ConfigProto(gpu_options=gpu_options))
也可以按需增長:
config = tf.ConfigProto() config.gpu_options.allow_growth = True session = tf.Session(config=config, ...)
如果是 Keras 使用 TensorFlow 后端,則可通過如
import tensorflow as tf from keras.backend.tensorflow_backend import set_session config = tf.ConfigProto() config.gpu_options.allow_growth = True set_session(tf.Session(config=config))
更改使用設(shè)置。
以上這篇淺談多卡服務(wù)器下隱藏部分 GPU 和 TensorFlow 的顯存使用設(shè)置就是小編分享給大家的全部內(nèi)容了,希望能給大家一個參考,也希望大家多多支持腳本之家。
相關(guān)文章
Python?eval()函數(shù)和ast.literal_eval()的區(qū)別你知道嗎
這篇文章主要為大家詳細(xì)介紹了Python?eval()函數(shù)和ast.literal_eval()的區(qū),文中圖片代碼介紹的非常詳細(xì),具有一定的參考價值,感興趣的小伙伴們可以參考一下,希望能夠給你帶來幫助2022-02-02
淺談django2.0 ForeignKey參數(shù)的變化
今天小編就為大家分享一篇淺談django2.0 ForeignKey參數(shù)的變化,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2019-08-08

