티스토리 뷰

이번 포스팅은 Bitfusion 서버를 통해 Client VM에 GPU를 할당하고, 회수하는 내용을 써볼게요😃

과연 Bitfusion 서버를 통해 각 Client OS 들은 GPU 관리가 얼마나 잘될지 궁금합니다😋

 

기본적인 Test 진행을 위해, Ubuntu, CentOS VM 2개를 준비합니다.

● Ubuntu 20.04 : VM gpu05-ub

● CentOS 7 : VM gpu07-cent

 

1. Client OS Bitfusion 사용하기

● VM 오른쪽 버튼 클릭-Bitfusion-"Enable Bitfusion" 클릭

 팝업창이 나타나면, "For a Client" 선택 후 "ENABLE" 버튼 클릭

 

2. Client OS Bitfusion packages 설치하기

● Bitfusion에서 제공하는 패키지 파일 다운로드(OS 버전 확인)

   $wget https://packages.vmware.com/bitfusion/ubuntu/20.04/bitfusion-client-ubuntu2004_3.5.0-5_amd64.deb

 Ubuntu 업데이트

   $sudo apt-get update

다운로드한 패키지 파일 설치

   $sudo apt-get install -y ./bitfusion-client-ubuntu2004_3.5.0-5_amd64.deb

Bitfusion Group에 사용자 권한 할당 설정 및 확인

   $sudo usermod -aG bitfusion root

   $sudo groups

 

CentOS도 위의 절차 동일하게 진행

 

3. Bitfusion 서버에서 조인된 각 Client 상태 확인

 

4. Client에서 GPU 요청해서 사용해보기(Bitfusion 서버에서 각 클라이언트로 GPU 할당도 가능)

● Bitfusion 패키지 설치 시 bitfusion 명령어 사용이 가능합니다.

● $bitfusion request_gpus --help 명령어를 통해 어떤 방식으로 GPU 요청이 가능한지 확인합니다.

● GPU Memory(MiB) 기준으로 요청 및 GPU 상태 확인

   $bitfusion request_gpus -m 9000

   $bitfusion list_gpus

● GPU 회수시키고 GPU 상태 확인

   $bitfusion release_gpus

● nvidia-smi 모니터링도 가능합니다.

   $bitfusion client nvidia-smi

 

5. Bitfusion 서버(vCenter Plugin)에서 Client별 GPU 사용 현황 확인이 가능합니다.

Bitfusion Cluster Dashbaord 확인

 Bitfusion Client 메뉴 확인

 

클라이언트에서 GPU 요청은 세 가지 정도의 방법이 있네요.

● 물리적 GPU 번호 기준 요청

● Memory 용량 기준 요청

● 비율 기준 요청

 

클라이언트에서 요청해서 GPU 할당도 잘 되고, vCenter 서버에서 각 클라이언트에 직접 할당도 아주 잘 되네요😎

GPU 할당 및 회수 스케쥴링이나, 쿠버네티스 기반 GPU 할당 테스트도 진행해봐야겠네요🙄

 

댓글
최근에 올라온 글
최근에 달린 댓글
Total
Today
Yesterday
링크
«   2024/05   »
1 2 3 4
5 6 7 8 9 10 11
12 13 14 15 16 17 18
19 20 21 22 23 24 25
26 27 28 29 30 31
글 보관함