Tensorflow检验GPU是否安装成功 及 使用GPU训练注意事项

1. 已经安装cuda但是tensorflow仍然使用cpu加速的问题

电脑上同时安装了GPU和CPU版本的TensorFlow,本来想用下面代码测试一下GPU程序,但无奈老是没有调用GPU。

import tensorflow as tf

with tf.device('/cpu:0'):
    a = tf.constant ([1.0, 2.0, 3.0], shape=[3], name='a')
    b = tf.constant ([1.0, 2.0, 3.0], shape=[3], name='b')
with tf.device('/gpu:1'):
    c = a + b

# 注意:allow_soft_placement=True表明:计算设备可自行选择,如果没有这个参数,会报错。
# 因为不是所有的操作都可以被放在GPU上,如果强行将无法放在GPU上的操作指定到GPU上,将会报错。
sess = tf.Session(config=tf.ConfigProto (allow_soft_placement=True, log_device_placement=True))
# sess = tf.Session(config=tf.ConfigProto(log_device_placement=True))
sess.run(tf.global_variables_initializer())
print (sess.run(c))

后来google了一下,发现gpu版本和cpu版本是不能同时安装的

于是按照以下指令,卸载下面的安装包

第0步:卸载protobuf
pip uninstall protobuf

第1步:卸载tensorflow
pip uninstall tensorflow
pip uninstall tensorflow-gpu

第2步:强制重新安装Tensorflow并支持GPU
pip install --upgrade --force-reinstall tensorflow-gpu

第3步:如果还没有,请设置CUDA_VISIBLE_DEVICES,所以对我来说有2个GPU就可以了
export CUDA_VISIBLE_DEVICES=0,1  

 

一定要注意安装版本问题!!!!!!!!!!!!!!!!!!!!

 

2. 使用TensorFlow的注意事项 

(1)训练前要用nvidia-smi来查看一下当前GPU的使用情况,不要一下子就放上去跑把大家一起挤挂了。

(2)如果机器上面的GPU之间不能够通信,那就先设定一块要用的GPU吧,在终端上面输入命令export CUDA_VISIBLE_DEVICES=0(数字是GPU的编号)。

  CUDA_VISIBLE_DEVICES 指定的设备号可能与nvidia-smi给出的设备号不一致,详见CUDA_DEVICE_ORDER 环境变量说明,这种不一致性就可能导致本打算分配一个空闲设备(根据nvidia-smi数据)给CUDA应用结果分配的却是正在使用中的设备的情况。

注意:对于在代码内通过代码修改可见设备的情况,只有在代码访问GPU设备之前设置CUDA_VISIBLE_DEVICES变量才有效。 如果你模型保存之前没有转换到CPU上,那么模型重加载的时候会直接加载到GPU设备中,具体加载到哪个设备依赖于模型的device属性,一般默认为 cuda:0,即加载到系统的第一块显卡。如果我们在重加载模型前设置CUDA_VISIBLE_DEVICES,就能起到设备屏蔽的左右,而如果是模型重加载完后才设置 CUDA_VISIBLE_DEVICES, 设置无效,因为GPU设备已经被访问了。

(3)用Tensorflow创建session的时候要注意设置内存使用情况,特别是内存资源不够而且要和别人共享一块GPU的时候(留一点给别人用):

gpu_options = tf.GPUOptions(per_process_gpu_memory_fraction=0.9) 
with tf.Session(config=tf.ConfigProto(gpu_options=gpu_options)) as sess: 
fraction设置使用内存的百分比。

(4)如果要用with tf.device(‘/gpu:0’):,只能够在所有运算都能在GPU上进行才可以,否则就会报错。如果一定要这样,则要指定哪些操作可以使用GPU,或者设置从GPU可以转移到CPU上运算。

(5)Win10: ImportError: DLL load failed: The specified module could not be found

版本装错了,之前是TensorFlow 1.13.0 + cuda 8.0 + cuDNN5.1,,改成TensorFlow 1.12.0就好了

 

参考文献:

【1】Tensorflow利用GPU训练注意事项

【2】GPU上的张量流:没有已知设备,尽管cuda的deviceQuery返回“PASS”结果

【3】tensorflow 使用CPU而不使用GPU的问题解决【暂时还没遇到】

【4】Windows环境下安装TensorFlow(CPU和GPU版)

【5】关于tensorflow gpu版和cpu版网上说的容易混淆的一点【有用】

【6】Win10: ImportError: DLL load failed: The specified module could not be found #2

posted @ 2019-04-01 22:51  nxf_rabbit75  阅读(...)  评论(...编辑  收藏