본문 바로가기
반응형

전체 글233

KATA Containers https://katacontainers.io/ Kata Containers - Open Source Container Runtime SoftwareKata Containers is an open source container runtime, building lightweight virtual machines that seamlessly plug into the containers ecosystem.katacontainers.io  🛡️ 컨테이너처럼 가볍고, VM처럼 안전하게 – Kata Containers 소개최근 클라우드 환경에서 컨테이너 기술은 거의 기본이 되었죠.빠르고, 가볍고, 배포도 쉬워서 안 쓸 이유가 없을 정도입니다. 하지만 한 가지 고민은 여전히 존재합니다.“컨테이너는 호스트 커널을 공.. 2025. 3. 15.
echo와 리디렉션을 통해 텍스트 파일 생성 # echo "1'm fine, thank you" echo명령어를 이용해서 CLI에 텍스트를 출력할 수 있다.   CLI에 출력할 문구를 다음 명령어와 함께 텍스트파일로 생성할 수 있다. # echo "1'm fine, thank you" > 1.txt 다음 커맨드로 텍스트를 추가가 가능하다. # echo "1'm fine, thank you" >> 1.txt 다시 '>' 이용한다면# echo "1'm fine, thank you" > 1.txt텍스트를 덮어씌우게 된다.  이에 유의하자. 2025. 3. 15.
A100에서 MIG 구성 가능 최대 수량 ✅ A100에서 MIG 구성 가능 수량 요약항목최대 개수 (A100 40GB / 80GB 기준)GPU Instance (GI)최대 7개Compute Instance (CI)GI별로 다르지만, 최대 총 7개까지 생성 가능 🧩 중요한 개념: GI와 CI의 1:1 관계하나의 GI에는 최소 하나의 CI가 있어야 연산이 가능하나의 GI 안에 여러 CI를 만들 수 있는 경우도 있음, 하지만 총 CI 수는 7개를 초과할 수 없음대부분의 경우, GI 1개에 CI 1개 (1:1 매핑) 으로 사용하는 것이 일반적하지만 특정 크기의 GI를 만들면, 그 안에서 여러 개의 CI를 나누어 사용할 수 있는 구조도 존재합니다. (CI 다중 구성 가능)🔍 예시로 살펴보기 (A100 40GB 기준)GI 프로파일 (형태)GPU 메모리.. 2025. 3. 9.
MIG Instance 정리. NVIDIA의 MIG(Multi-Instance GPU) 기능에서 GPU Instance와 Compute Instance는 서로 다른 역할을 합니다.🛠️ 1. GPU Instance (GI)란?물리적인 GPU의 하드웨어 리소스를 논리적으로 분할한 것메모리(RAM), 캐시, SM(Streaming Multiprocessors) 등의 자원을 분리하여 가상화할당된 GPU 메모리와 연산 유닛을 독립적으로 사용 가능각 Instance는 다른 사용자 또는 프로세스에서 독립적으로 실행➡️ 하드웨어 리소스를 나누는 기본 단위⚡ 2. Compute Instance (CI)란?GPU Instance 내부에서 실행되는 연산 단위하나의 GPU Instance(GI) 안에서 여러 개의 Compute Instance(CI)를 .. 2025. 3. 9.
SSH 호스트네임으로 이용하기. SSH 를 이용할 때, /etc/hosts에 IP및 호스트네임을 등록해두면, 다음과 같은 커맨드로 SSH를 연결할 수 있다.  #ssh 호스트네임  #cat /etc/hosts각각 vm1의 인터페이스(192.168.1.101)과 vm2의 인터페이스 (192.168.1.102)을 /etc/hosts에 등록해뒀다.  이제 이 두 서버간의 SSH를 연결할때 명령어는 각각 다음과 같이 이용할 수 있다. #ssh vm1#ssh vm2 2025. 3. 9.
nvidia-smi 옵션값 정리 🔹 nvidia-smi (NVIDIA System Management Interface) 정리✅ nvidia-smi는 NVIDIA GPU의 상태를 모니터링 및 관리하는 CLI 도구야.✅ Windows 및 Linux에서 사용 가능하며, CUDA 및 드라이버 정보도 제공해.✅ AI, 머신러닝, 데이터센터 환경에서 GPU 리소스를 최적화하는 데 사용됨.📌 기본 사용법 #nvidia-smi # 기본 GPU 상태 출력 nvidia-smi --help # 사용 가능한 옵션 확인  📌 주요 옵션 정리 (줄임 옵션 포함)✅ GPU 정보 확인 관련 옵션긴 옵션 (--long-option)짧은 옵션 (-short)설명예제--query-qGPU 전체 정보 조회nvidia-smi -q--query-gpu없음GPU 특정 .. 2025. 3. 8.
반응형