--------------------------------------------
## GPU Instance 생성
--------------------------------------------
-cgi : --create-gpu-instance
// gpu instance 생성
-C : --default-compute-instance
// compute instance 생성
-cci : --create-compute-instance(cgi시에 -C 로 대체가능 >> -)
// compute instance 생성
>>nvidia-smi mig -cgi 19,19,19,19,19,19,19
>>nvidia-smi mig -cci
>>nvidia-smi mig -cgi 19,19,19,19,19,19,19 -C
--------------------------------------------
## GPU Instance 제거
-dci : delete compute instance
-dgi : delete gpu instance
dci 이후 dgi 실행만 가능.
--------------------------------------------
>>nvidia-smi mig -dci
>>nvidia-smi mig -dgi
https://docs.nvidia.com/datacenter/tesla/mig-user-guide/index.html
NVIDIA Multi-Instance GPU User Guide :: NVIDIA Data Center GPU Driver Documentation
In some cases, if you have agents on the system (e.g. monitoring agents) that use the GPU, then you may not be able to initiate a GPU reset. For example, on DGX systems, you may encounter the following message: $ sudo nvidia-smi -i 0 -mig 1 Warning: MIG mo
docs.nvidia.com
# Instance 조합방법
<Nvidia Driver 설치>
Nvidia driver 다운로드 링크(공식 고급 드라이버 설치)
PPA를 통한 Nvidia 드라이버 설치(Ubuntu)
<Cuda 설치>
deb(network) 방식을 이용한 Cuda 11.8 설치
run파일 방식을 이용한 CUDA 12.2 설치
CUDA sample 설치 및 Device Query, Bandwidth test.
<MIG 관련글>
MIG란?
MIG 구성 단위 + MIG 지원 GPU 목록
MIG enable
MIG instance 생성, 삭제+ Instance 조합방법
<Nvidia-Docker 관련글>
Docker 컨테이너에서 Nvidia driver
Docker 컨테이너별로 Nvidia GPU 분할방법 2가지
'Nvidia > MIG' 카테고리의 다른 글
| MIG enable (0) | 2023.11.01 |
|---|---|
| MIG 구성 단위 + MIG 지원 GPU 목록 (1) | 2023.10.31 |
| MIG란? (0) | 2023.10.30 |
