본문 바로가기
반응형

분류 전체보기231

A100에서 MIG 구성 가능 최대 수량 ✅ A100에서 MIG 구성 가능 수량 요약항목최대 개수 (A100 40GB / 80GB 기준)GPU Instance (GI)최대 7개Compute Instance (CI)GI별로 다르지만, 최대 총 7개까지 생성 가능 🧩 중요한 개념: GI와 CI의 1:1 관계하나의 GI에는 최소 하나의 CI가 있어야 연산이 가능하나의 GI 안에 여러 CI를 만들 수 있는 경우도 있음, 하지만 총 CI 수는 7개를 초과할 수 없음대부분의 경우, GI 1개에 CI 1개 (1:1 매핑) 으로 사용하는 것이 일반적하지만 특정 크기의 GI를 만들면, 그 안에서 여러 개의 CI를 나누어 사용할 수 있는 구조도 존재합니다. (CI 다중 구성 가능)🔍 예시로 살펴보기 (A100 40GB 기준)GI 프로파일 (형태)GPU 메모리.. 2025. 3. 9.
MIG Instance 정리. NVIDIA의 MIG(Multi-Instance GPU) 기능에서 GPU Instance와 Compute Instance는 서로 다른 역할을 합니다.🛠️ 1. GPU Instance (GI)란?물리적인 GPU의 하드웨어 리소스를 논리적으로 분할한 것메모리(RAM), 캐시, SM(Streaming Multiprocessors) 등의 자원을 분리하여 가상화할당된 GPU 메모리와 연산 유닛을 독립적으로 사용 가능각 Instance는 다른 사용자 또는 프로세스에서 독립적으로 실행➡️ 하드웨어 리소스를 나누는 기본 단위⚡ 2. Compute Instance (CI)란?GPU Instance 내부에서 실행되는 연산 단위하나의 GPU Instance(GI) 안에서 여러 개의 Compute Instance(CI)를 .. 2025. 3. 9.
SSH 호스트네임으로 이용하기. SSH 를 이용할 때, /etc/hosts에 IP및 호스트네임을 등록해두면, 다음과 같은 커맨드로 SSH를 연결할 수 있다.  #ssh 호스트네임  #cat /etc/hosts각각 vm1의 인터페이스(192.168.1.101)과 vm2의 인터페이스 (192.168.1.102)을 /etc/hosts에 등록해뒀다.  이제 이 두 서버간의 SSH를 연결할때 명령어는 각각 다음과 같이 이용할 수 있다. #ssh vm1#ssh vm2 2025. 3. 9.
nvidia-smi 옵션값 정리 🔹 nvidia-smi (NVIDIA System Management Interface) 정리✅ nvidia-smi는 NVIDIA GPU의 상태를 모니터링 및 관리하는 CLI 도구야.✅ Windows 및 Linux에서 사용 가능하며, CUDA 및 드라이버 정보도 제공해.✅ AI, 머신러닝, 데이터센터 환경에서 GPU 리소스를 최적화하는 데 사용됨.📌 기본 사용법 #nvidia-smi # 기본 GPU 상태 출력 nvidia-smi --help # 사용 가능한 옵션 확인  📌 주요 옵션 정리 (줄임 옵션 포함)✅ GPU 정보 확인 관련 옵션긴 옵션 (--long-option)짧은 옵션 (-short)설명예제--query-qGPU 전체 정보 조회nvidia-smi -q--query-gpu없음GPU 특정 .. 2025. 3. 8.
베어메탈이란? 베어메탈(Bare Metal)이란 운영체제(OS)나 가상화 소프트웨어 없이 물리적인 하드웨어(서버, 컴퓨터) 위에서 직접 실행되는 환경을 의미합니다. 주로 베어메탈 서버(Bare Metal Server) 또는 베어메탈 클라우드(Bare Metal Cloud) 같은 개념으로 사용됩니다.🔹 베어메탈 vs. 가상화 환경 비교 베어메탈가상화환경(VM,컨테이너)실행 방식OS가 직접 하드웨어에서 실행하이퍼바이저(VM) 또는 컨테이너 기반 실행성능우수 (오버헤드 없음)다소 낮음 (가상화 오버헤드 존재)보안강함 (단독 사용)상대적으로 낮음 (공유 리소스)확장성낮음 (물리적 서버 추가 필요)높음 (빠른 배포 및 확장 가능)비용상대적으로 비쌈상대적으로 저렴🔹 베어메탈의 주요 특징고성능 – 가상화 계층 없이 하드웨어를 .. 2025. 3. 8.
Virtualbox 네트워크 브리지 설정 방법 VM계열의 네트워크를 사용할 때, 보통 두 가지의 옵션이 있는 것으로 알고 있다. 한 개는 NAT 옵션과 브리지 옵션이다. NAT의 경우에는 호스트PC가 연결된 네트워크안에 가상 네트워크를 추가로 구성하여 사용하는 방식이며, 브리지 옵션의 경우에는 호스트 PC가 연결된 네트워크 안에 VM을 개별 장치로 인식되게 한다.  NAT의 경우에는 가상 네트워크가 구성됨으로 인해서, Host PC가 VM에 SSH 연결시에 포트 포워딩이 필요하다. 브리지 옵션의 경우에는 Host PC에서 VM에 SSH 연결시에, 같은 네트워크 안의 별도의 개별장치로 인식됨에 따라 별도의 포트 포워딩과 같은 작업이 필요하지 않다.  IP 지정이 필요한 시설에서는 NAT를 선호할 것이나, 개인적으로 사용하는 망의 경우에는 별도의 망 설.. 2024. 11. 17.
반응형

티스토리툴바