H100 SXM: 캠페인을 위한 80GB.

80GB를 중심으로 캠페인 구성하기

H100 SXM은 Hopper 아키텍처와 80GB HBM3를 결합합니다. 작업별 메모리 범위를 일반적인 경우와 대용량 경우로 나누어 정의하세요. 학습의 경우 수령 단계에 저장과 재개를 포함시키고, 데이터 처리의 경우 출력이 완전하고 재사용 가능한지도 확인하세요.

우선순위가 지정된 작업 목록이 GPU 포화라는 일반적인 목표보다 더 유용합니다. 각 작업에 대해 입력, 기대 결과, 종료 조건을 명시하세요. 그러면 대여의 목적인 산출물을 훼손하지 않고 부차적인 작업을 미룰 수 있습니다.

GPU를 애플리케이션과 분리하지 않기

CUDA 버전, 프레임워크, 특수 라이브러리를 함께 검증하세요. 데이터 준비, 계산, 내보내기를 각각 따로 살펴보세요. 파일을 기다리는 처리는 GPU를 늘린다고 반드시 해결되지 않습니다. 환경이 변경된 후에도 이 검증을 반복할 수 있도록 이식 가능한 작은 테스트 세트를 준비하세요.

SXM, PCIe, 메모리 필요량 구분하기

카탈로그의 H100 PCIe도 80GB이며 HBM2e 메모리를 갖추고 있습니다. 이 둘은 서로 다른 구성이므로 H100이라는 이름만으로 호환 가능하다고 볼 수 없습니다. 검토 중인 변형들에서 자체 처리를 비교해 보세요. 문제가 카드 한 장에서 80GB를 초과하는 것이라면 141GB의 H200을 살펴보는 편이 낫습니다.

수령과 반환 준비하기

범위가 좁은 검증에는 3일, 한정된 캠페인에는 7일, 체계적으로 이어지는 작업에는 30일을 선택하세요. 처음부터 출력 회수와 각 시리즈의 계속 또는 중단 결정을 담당할 책임자를 지정하세요.

구성기에서 H100 SXM 로트, 기간, 환경을 선택하세요. 연락처 정보를 입력한 후에는 요약 내역과 주문 추적이 대여 비용을 지불하는 사람과 계산을 준비하는 사람 사이의 공통 기준이 됩니다.