B200: hai GPU, một gói lô duy nhất.

Hai card, một kế hoạch làm việc rõ ràng

Mỗi lô bao gồm hai B200, mỗi card có 180 GB HBM3e, trên kiến trúc Blackwell. Tổng 360 GB của lô không tự động tạo thành một bộ nhớ duy nhất mà một chương trình có thể truy cập. Đối với xử lý phân tán, ứng dụng phải quản lý việc đặt dữ liệu và trao đổi giữa các GPU; cũng cần kiểm tra cấu trúc liên kết thực sự có thể truy cập.

Nếu các tác vụ của bạn độc lập, hãy gán cho mỗi tác vụ một GPU, một định danh và một vị trí đầu ra. Đối với một phép tính phân tán duy nhất, thay vào đó hãy ghi lại cách chia mô hình, giao tiếp và khôi phục sau khi gián đoạn. Hai chế độ này đòi hỏi các tiêu chí nghiệm thu khác nhau.

Xác nhận chuỗi phần mềm Blackwell

Chuẩn bị một phiên bản môi trường của bạn tương thích với Blackwell, bao gồm các tiện ích mở rộng đã biên dịch của PyTorch hoặc ứng dụng CUDA của bạn. Khởi chạy thành công là chưa đủ: hãy kiểm tra một kết quả đại diện, bộ nhớ tối đa và khởi động lại từ một điểm lưu. Giữ lại các phiên bản đã dùng cho việc xác nhận này.

Khi nào nên chọn H200

Nếu toàn bộ công việc vừa trong 141 GB và chỉ chạy trên một GPU, H200 SXM đáng được so sánh. Nó tránh việc đưa vào phân chia chỉ để dùng thiết bị thứ hai. Ngược lại, hai dự án thực sự độc lập có thể biện minh cho lô B200 ngay cả khi không có ứng dụng phân tán. Khi đó hãy so sánh các sản phẩm hoàn thành, không chỉ tỷ lệ sử dụng hiển thị.

Đặt thời hạn quanh các mốc quan trọng

Khung 3 ngày có thể bao quanh việc đánh giá chất lượng hai GPU; 7 ngày cho phép lên kế hoạch chiến dịch đầu tiên với kiểm soát trung gian; 30 ngày phù hợp với lịch xử lý lặp lại. Trong mỗi trường hợp, hãy dự trù thời gian cần thiết để lấy kết quả.

Chọn thời hạn và số lô, sau đó chọn môi trường và thông tin liên hệ đặt hàng. Kiểm tra tổng số GPU trong bản tóm tắt. Sau khi thanh toán, hãy theo dõi riêng việc xác minh và việc chuẩn bị thuê trước khi khởi động lịch thực thi của bạn.