Xác định đúng biến thể H100
Gói này tương ứng với H100 PCIe 80 GB HBM2e, trên kiến trúc Hopper. Gói này không chỉ định H100 SXM 80 GB HBM3 cũng không phải H100 NVL. Hãy ghi lại đầy đủ tên gọi này trong các tài liệu đánh giá của bạn để việc so sánh sau này không trộn lẫn các phiên bản phần cứng khác nhau.
Định dạng PCIe mô tả sản phẩm, nhưng tự nó không đưa ra đặc điểm của toàn bộ máy. Khi nghiệm thu, hãy xuất phát từ tài nguyên hiển thị và nhu cầu của ứng dụng, không suy ra cấu hình mạng hay liên kết giữa các card từ model.
Tách riêng tải, tính toán và kết quả
Chia một lần chạy đại diện thành ba bước: tải dữ liệu, xử lý trên GPU và tạo đầu ra. Ghi lại thời lượng và bộ nhớ tối đa của chúng cùng với các phiên bản phần mềm. Nếu dữ liệu đầu vào đến chậm hoặc khâu xuất chiếm ưu thế, ưu tiên có thể là sắp xếp tệp và lô công việc trước khi thay đổi cấu hình.
So sánh với A100 mà không thay đổi quy trình
A100 SXM 80 GB là một lựa chọn thay thế cho ứng dụng đã được kiểm chứng trên Ampere. H100 SXM là biến thể Hopper khác cần cân nhắc. Trong cả hai trường hợp, hãy giữ nguyên các tham số số và cùng dữ liệu: việc cập nhật phần mềm đồng thời sẽ làm nhiễu phép so sánh và khiến quyết định chuyển đổi phức tạp hơn.
Thuê để quyết định, rồi để thực thi
Thuê 3 ngày có thể dùng để đánh giá một kịch bản cụ thể. Khoảng 7 ngày cho phép đưa nhiều chuỗi vào lịch của nhóm. Với 30 ngày, hãy chuẩn bị một hàng đợi có thứ tự ưu tiên và một điểm kiểm soát trước mỗi nhóm dữ liệu mới.
Chọn số lô, mỗi lô gồm một card, sau đó chọn thời lượng và môi trường. Điền thông tin liên hệ của người sẽ theo dõi đơn hàng. Trước chiến dịch đầy đủ, hãy để người phụ trách xử lý phê duyệt kết quả kiểm tra nghiệm thu.