MIG란?

MIG(Multi-Instance GPU)는 Tensor 코어 GPU의 성능과 가치를 향상합니다.

MIG는 GPU를 각각 자체 고대역폭 메모리, 캐시, 컴퓨팅 코어를 갖추고 완전하게 격리된

최대 7개의 인스턴스로 파티셔닝할 수 있습니다.

<출처 : https://www.nvidia.com/ko-kr/technologies/multi-instance-gpu/ >

 

 

MIG를 통해 얻을수 있는 이점. 

 

1. 유연성 & 유휴자원 최소화

GPU 리소스를 최대 7배까지 유연하게 활용할 수 있습니다. 

이를 통해 GPU 유휴자원을 최소화 할 수 있습니다. -> 작업마다 적절한 인스턴스 크기 조절

 

2. 안전성

GPU 리소스 격리를 통해 특정 인스턴스를 이용한 애플리케이션 에러 발생시에도

다른 인스턴스의 애플리케이션에 영향을 주지 않습니다. 

 

3.병렬 실행

병렬 실행을 통해서 MIG없는 환경보다 더욱 빠른 작업속도를 얻어낼 수 있습니다.

 

 

 

<Nvidia Driver 설치>
Nvidia driver 다운로드 링크(공식 고급 드라이버 설치)
PPA를 통한 Nvidia 드라이버 설치(Ubuntu)

<Cuda 설치>
deb(network) 방식을 이용한 Cuda 11.8 설치
run파일 방식을 이용한 CUDA 12.2 설치
CUDA sample 설치 및 Device Query, Bandwidth test.

 

<MIG 관련글>
MIG란?
MIG 구성 단위 + MIG 지원 GPU 목록
MIG enable
MIG instance 생성, 삭제+ Instance 조합방법

<Nvidia-Docker 관련글>
Docker 컨테이너에서 Nvidia driver
Docker 컨테이너별로 Nvidia GPU 분할방법 2가지