[885]Tensorflow设置CUDA_VISIBLE_DEVICES来控制GPU的使用

时间:2022-07-22
本文章向大家介绍[885]Tensorflow设置CUDA_VISIBLE_DEVICES来控制GPU的使用,主要内容包括其使用实例、应用技巧、基本知识点总结和需要注意事项,具有一定的参考价值,需要的朋友可以参考一下。
  • os.environ[“CUDA_DEVICE_ORDER”] = “PCI_BUS_ID” # 按照PCI_BUS_ID顺序从0开始排列GPU设备
  • os.environ[“CUDA_VISIBLE_DEVICES”] = “0” #设置当前使用的GPU设备仅为0号设备 设备名称为’/gpu:0’
  • os.environ[“CUDA_VISIBLE_DEVICES”] = “1” #设置当前使用的GPU设备仅为1号设备 设备名称为’/gpu:1’
  • os.environ[“CUDA_VISIBLE_DEVICES”] = “0,1” #设置当前使用的GPU设备为0,1号两个设备,名称依次为’/gpu:0’、’/gpu:1’
  • os.environ[“CUDA_VISIBLE_DEVICES”] = “1,0” #设置当前使用的GPU设备为1,0号两个设备,名称依次为’/gpu:1’、’/gpu:0’。表示优先使用1号设备,然后使用0号设备

如果服务器有多个GPU,tensorflow默认会全部使用。如果只想使用部分GPU,可以通过参数CUDA_VISIBLE_DEVICES来设置GPU的可见性。

示例:

Environment Variable Syntax      Results
CUDA_VISIBLE_DEVICES=1           Only device 1 will be seen
CUDA_VISIBLE_DEVICES=0,1         Devices 0 and 1 will be visible
CUDA_VISIBLE_DEVICES="0,1"       Same as above, quotation marks are optional
CUDA_VISIBLE_DEVICES=0,2,3       Devices 0, 2, 3 will be visible; device 1 is masked
CUDA_VISIBLE_DEVICES=""          No GPU will be visible

在终端设置

在终端调用Python脚本前,可以设置CUDA_VISIBLE_DEVICES变量,如下:

$ CUDA_VISIBLE_DEVICES=1 python my_script.py

这样my_script.py脚本就只能使用GPU 1。

在Python脚本内设置

如果想在Python的脚本内设置使用的GPU,可以使用os.environ,如下:

import os
os.environ["CUDA_DEVICE_ORDER"]="PCI_BUS_ID"   # see issue #152
os.environ["CUDA_VISIBLE_DEVICES"]="1"

检查TensorFlow对GPU的可见性:

from tensorflow.python.client import device_lib
print(device_lib.list_local_devices())

参考:https://blog.csdn.net/Jamesjjjjj/article/details/83414680 https://majing.io/posts/10000039461231