A100에서 MIG 구성 가능 최대 수량

 

✅ A100에서 MIG 구성 가능 수량 요약

항목최대 개수 (A100 40GB / 80GB 기준)

GPU Instance (GI)	최대 7개
Compute Instance (CI)	GI별로 다르지만, 최대 총 7개까지 생성 가능

 

---

🧩 중요한 개념: GI와 CI의 1:1 관계

• 하나의 GI에는 최소 하나의 CI가 있어야 연산이 가능
• 하나의 GI 안에 여러 CI를 만들 수 있는 경우도 있음, 하지만 총 CI 수는 7개를 초과할 수 없음
• 대부분의 경우, GI 1개에 CI 1개 (1:1 매핑) 으로 사용하는 것이 일반적

하지만 특정 크기의 GI를 만들면, 그 안에서 여러 개의 CI를 나누어 사용할 수 있는 구조도 존재합니다. (CI 다중 구성 가능)

---

🔍 예시로 살펴보기 (A100 40GB 기준)

GI 프로파일 (형태)GPU 메모리SM 수생성 가능한 GI 개수GI당 생성 가능한 CI 수

1g.5gb	5 GB	6 SM	최대 7개	GI당 CI 1개
2g.10gb	10 GB	12 SM	최대 3개	GI당 CI 1~2개 가능
3g.20gb	20 GB	20 SM	최대 2개	GI당 CI 1~3개 가능
7g.40gb	40 GB	108 SM	최대 1개	CI 여러 개 (최대 7) 가능

즉,

• 총 CI 수는 GPU 전체 기준으로 최대 7개
• GI 하나당 만들 수 있는 CI 수는 GI 크기(리소스 할당)에 따라 달라짐

---

🔧 예시 구성

예시 1: 1g.5gb GI 7개 구성 (가장 단순)

• GI 7개 (각 5GB, 6 SM)
• 각 GI는 CI 1개 → 총 CI 7개

예시 2: 7g.40gb GI 1개 구성 (풀 리소스 사용)

• GI 1개 (40GB, 전체 SM)
• CI 최대 7개까지 쪼갤 수 있음 → 한 GI 내에 CI 7개 구성

---

✅ 정리

질문답변

A100의 GI 최대 개수?	7개
CI는 GI 안에서 나뉘는 것?	맞음 (CI는 GI 내부에 생성됨)
총 CI 개수는 몇 개까지 가능?	GPU 하나당 최대 7개까지
GI 하나에 여러 CI 만들 수 있나?	GI 크기에 따라 가능

 

 

본문은 ChatGPT에 의해서 작성되었습니다.