[工程] pytorch gpu docker 镜像下的无法正常启动应用分析

9月 18, 2018 0条评论 13,460次阅读 3人点赞

发现

在使用了 nvidia/cuda:9.0-cudnn7-devel-ubuntu16.04 作为底层镜像后，重新构建了pytorch的底层镜像做为应用的基础镜像，一切都构建的很顺利，就是在正常启动镜像的时候，出现了如下的错误
CUDA driver version is insufficient for CUDA runtime version

分析

按照以往的经验，无非是没有使用nvidia-docker启动，又或者当前实体机的nvidia driver 版本和docker 镜像内的版本不一致，那我们一个一个排除，在使用nvidia-docker 启动镜像后，正常使用docker-compose启动应用，使用命令查看cuda和cudnn版本

nvcc --version

1 2	nvcc --version

输出

nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2017 NVIDIA Corporation
Built on Fri_Sep__1_21:08:03_CDT_2017
Cuda compilation tools, release 9.0, V9.0.176

nvcc: NVIDIA (R) Cuda compiler driver

Built on Fri_Sep__1_21:08:03_CDT_2017

Cuda compilation tools, release 9.0, V9.0.176

这里对比cuda 版本都是一致的，进一步查看cudnn版本

cat /usr/include/x86_64-linux-gnu/cudnn_v*.h | grep CUDNN_MAJOR -A 2

1 2	cat /usr/include/x86_64-linux-gnu/cudnn_v*.h \| grep CUDNN_MAJOR -A 2

输出

#define CUDNN_MAJOR 7
#define CUDNN_MINOR 1
#define CUDNN_PATCHLEVEL 4
--
#define CUDNN_VERSION    (CUDNN_MAJOR * 1000 + CUDNN_MINOR * 100 + CUDNN_PATCHLEVEL)

#define CUDNN_MAJOR 7

#define CUDNN_MINOR 1

#define CUDNN_PATCHLEVEL 4

#define CUDNN_VERSION (CUDNN_MAJOR * 1000 + CUDNN_MINOR * 100 + CUDNN_PATCHLEVEL)

这里最奇怪的是cudnn版本也是一致的…

解决

分析到这里，我想应该有同学猜到，可能是环境变量不一致导致的，查找关于cuda的所有环境变量发现

实体机:

LD_LIBRARY_PATH=/usr/local/cuda-9.0/lib64

1 2	LD_LIBRARY_PATH=/usr/local/cuda-9.0/lib64

docker 内部

LD_LIBRARY_PATH=/usr/local/nvidia/lib:/usr/local/nvidia/lib64

1 2	LD_LIBRARY_PATH=/usr/local/nvidia/lib:/usr/local/nvidia/lib64

为了验证这个想法，这一次不直接使用docker-compose 直接启动应用，使用nvidia-docker run 镜像方式进入docker 内部，正常启动程序，没想启动成功了，OK，那可以完全肯定是环境变量导致的这个问题，为了进一步解决这个问题，我们有两种方式，一是每次部署的时候都要写好环境变量，二是在dockerfile 里面写好ENV，比如

FROM brucedone/torch:gpu

MAINTAINER nicefish66@gmail.com

ENV LD_LIBRARY_PATH /usr/local/nvidia/lib:/usr/local/nvidia/lib64
ENV LIBRARY_PATH /usr/local/cuda/lib64/stubs
RUN mkdir /workdir

COPY . /workdir
RUN pip install -r /workdir/requirements.txt

WORKDIR /workdir