Docker 컨테이너별로 Nvidia GPU 분할방법 2가지

이전글: Docker 컨테이너에서 Nvidia driver

 

앞선 글에서, 컨테이너에서 Nvidia driver를 확인했다.

 

요번 글에서는 컨테이너별로 Nvidia GPU 분할의 두가지 방법을 안내합니다. 

 

#초기 상태

root@user:~# nvidia-smi

# 1 https://realblack0.github.io/2020/03/23/docker-for-gpu.html

docker GPU 사용법

root@user:~# docker run --name test1 --hostname test1 -it -d --gpus '"device=0,1"' centos
root@user:~# docker exec -it test1 bash
[root@test1 /]# nvidia-smi

root@user:~# docker run --name test2 --hostname test2 -it -d --gpus '"device=2,3"' centos
root@user:~# docker exec -it test2 /bin/bash
[root@test2 /]# nvidia-smi

root@user:~# docker run --name test3 --hostname test3 -it -d --gpus '"device=4,5,6,7"' centos
root@user:~# docker exec -it test3 bash
[root@test3 /]# nvidia-smi

# 2 https://kyumdoctor.co.kr/18

nvidia-docker GPU 할당하여 사용 하는 방법 3가지

https://github.com/NVIDIA/nvidia-docker

 

root@user:~# NV_GPU=0,1 nvidia-docker run -it -d --name test1 --hostname test1 centos
root@user:~# docker exec -it test1 bash 
[root@test1 /]# nvidia-smi

root@user:~# NV_GPU=3,4,5,6 nvidia-docker run -it -d --name test2 --hostname test2 centos
root@user:~# docker exec -it test2 bash
[root@test2 /]# nvidia-smi 

 

 

root@user:~# NV_GPU=2,7 nvidia-docker run -it -d --name test3 --hostname test3 centos
root@user:~# docker exec -it test3 bash
[root@test3 /]# nvidia-smi 

<Docker관련글>

Docker란?
Docker --help
Docker image 업로드 방법.
Docker 기본 커맨드
Docker 컨테이너 생성/진입 후 OS 정보 확인.
Docker 컨테이너에서 Nvidia driver
Docker 컨테이너별로 Nvidia GPU 분할방법 2가지
Docker Container Kernel 문제.
CentOS7.7-Missing a signature key:Docker CE버전설치

 

<Nvidia Driver 설치>
Nvidia driver 다운로드 링크(공식 고급 드라이버 설치)
PPA를 통한 Nvidia 드라이버 설치(Ubuntu)

<Cuda 설치>
deb(network) 방식을 이용한 Cuda 11.8 설치
run파일 방식을 이용한 CUDA 12.2 설치
CUDA sample 설치 및 Device Query, Bandwidth test.

 

<MIG 관련글>
MIG란?
MIG 구성 단위 + MIG 지원 GPU 목록
MIG enable
MIG instance 생성, 삭제+ Instance 조합방법

<Nvidia-Docker 관련글>
Docker 컨테이너에서 Nvidia driver
Docker 컨테이너별로 Nvidia GPU 분할방법 2가지