So sánh một cấu hình, chứ không chỉ một card.

Xác định tiêu chí trước khi xem giá

Một so sánh hữu ích bắt đầu bằng một bảng thông tin chung ngắn gọn. Hãy cố định phiên bản ứng dụng, backend của nó, tập dữ liệu đầu vào, độ chính xác, kích thước lô công việc và tiêu chí chất lượng. Nếu bạn thay đổi một trong các tham số này, hãy ghi lại như một thử nghiệm khác. Sau đó, giữ lại lý do loại bỏ hoặc chọn từng lựa chọn.

Đối với việc chuyển sang AMD, hãy tham khảo ma trận ROCm tương ứng với phần cứng và ngăn xếp phần mềm của bạn. Khả năng tương thích được công bố là điều kiện tiên quyết; nó không chứng minh rằng ứng dụng của bạn hay một bước chuẩn bị môi trường theo yêu cầu đã hoạt động. Việc nghiệm thu phải ghi nhận các phiên bản và kết quả trên môi trường đích.

Phân biệt lô, card và bộ nhớ theo từng GPU

Một lô là đơn vị thuê. Số card phụ thuộc vào cấu hình: một lô B200 gồm hai card, trong khi một lô RTX 4090 gồm một card. Số card yêu cầu được tính như sau: số lô × số card mỗi lô. Tổng tính bằng USD được tính từ giá mỗi lô và thời gian đã chọn, không nhân thêm một lần nữa với số card.

Dung lượng bộ nhớ được ghi là của từng GPU. Hai B200 180 GB đại diện cho hai vùng nhớ 180 GB; tổng số học của chúng không phải là dung lượng bộ nhớ tự động khả dụng cho một tác vụ. NVIDIA mô tả các điều kiện phần mềm và phần cứng cho trao đổi đa GPU. Cần quan sát trực tiếp cấu trúc liên kết và các kết nối của máy cụ thể, thay vì suy ra từ tên model.

Giữ nguyên đơn vị của các số liệu đo được. GB thập phân tương ứng với một tỷ byte; GiB tương ứng với 2 lũy thừa 30 byte. Cần giải thích sự khác biệt giữa thông số kỹ thuật và công cụ hiển thị đơn vị nhị phân trước khi kết luận là thiếu bộ nhớ. Dung lượng công bố cũng không cho biết lượng bộ nhớ trống trong quá trình bạn chạy.

So sánh chi phí với điều kiện tài chính giống hệt nhau

Dưới đây là một ví dụ về ngân sách, được ghi nhận trong danh mục của chúng tôi vào ngày 24 tháng 9 năm 2026. Một nhóm nghiên cứu một lô duy nhất trong bảy ngày, với một card. Nhóm tạm thời chọn một khối lượng công việc có thể nằm trong 24 GB, tùy thuộc vào bài thử nghiệm của mình. Giả định này mở ra hai lựa chọn cần xem xét; nhóm không gán cho chúng cùng tốc độ, cùng nền tảng phần mềm hay cùng kết quả.

Với phạm vi này, chênh lệch giá là 110,00 − 55,00 = 55,00 USD. Đây là chênh lệch cam kết trong bảy ngày. Nếu không có thời gian đo được cho một kết quả được chấp nhận, ta không thể suy ra chi phí cho mỗi tác vụ hoàn thành. Thời gian chuẩn bị của nhóm và các khoản phí bên ngoài có thể có như chuyển tiền hay thanh toán cần được xem xét riêng; chúng không được định lượng ở đây.

Duy trì một quyết định mà nhóm có thể nghiệm thu

Kết thúc bảng so sánh bằng bốn dòng: lựa chọn được chọn, tiêu chí quyết định, giới hạn được chấp nhận và kiểm tra còn phải thực hiện. Nếu thiếu kết quả, hãy đánh dấu quyết định là tạm thời. Một dung lượng lớn hơn chỉ phù hợp nếu nó giải quyết một ràng buộc đã được xác định; một mức giá thấp hơn không chứng minh rằng tác vụ sẽ tốn ít chi phí hơn để hoàn thành.

Hồ sơ nghiệm thu v1 gồm một bảng mười kiểm tra, một mẫu quyết định, các lệnh kiểm kê được ghi lại và một ví dụ giả định. Hãy điền các thông tin đầu vào của bạn, các quan sát kèm đơn vị và các tài liệu chứng minh cho mỗi trạng thái. Các tài liệu này không chứa bất kỳ số đo GPU nào. Chúng giúp tổ chức bằng chứng mà nhóm bạn sẽ phải tập hợp.

Chọn ra các ứng viên, rồi gỡ bỏ các điều kiện

Để tư vấn một cấu hình cho nhóm bạn, hãy bắt đầu bằng một danh sách ngắn các ứng viên đủ điều kiện. Một tiêu chí bắt buộc không được đáp ứng sẽ loại bỏ một lựa chọn; một tiêu chí bắt buộc chưa rõ sẽ giữ nó ở trạng thái cần xác nhận. Giá cả, sự quen thuộc với một công cụ hay biên dung lượng sau đó sẽ phân định các lựa chọn đáp ứng nhu cầu. Một sở thích không bù đắp được cho một yêu cầu còn thiếu.

Cùng một bảng thông tin cũng dùng để tìm phương án thay thế cho môi trường hiện tại của bạn: giữ lại các ràng buộc phải tồn tại qua thay đổi và gọi tên những ràng buộc bạn chấp nhận thay đổi. Yêu cầu thêm card không tự nó giải quyết vấn đề hàng đợi, chuẩn bị dữ liệu hay thời gian khả dụng.

Hai tình huống để xây dựng lựa chọn của bạn

Tình huống thứ nhất, giả định: tác vụ độc lập của bạn yêu cầu 40 GB mỗi GPU, đã bao gồm mức dự phòng, theo đo lường của bạn và cùng đơn vị với bảng thông số. Các dung lượng danh định thấp hơn bị loại. L40S, RTX 6000 Ada, RTX A6000 và A40 48 GB có thể vào danh sách cần xem xét: mỗi lô gồm một thẻ. Danh sách này liên quan đến bốn lựa chọn 48 GB trong danh mục; danh sách không xếp hạng tốc độ của chúng và không loại trừ các dung lượng cao hơn. Vẫn còn phải kiểm tra phần mềm, bộ nhớ thực sự trống và tài nguyên của máy.

Tình huống thứ hai: một ứng dụng phải phân chia cùng một xử lý trên hai GPU. Lô B200 cho hai thẻ cần xem xét, nhưng tên gọi của lô không đủ để xác nhận kịch bản này. Hãy ghi rõ cách phân chia, các phiên bản và trao đổi cần thiết, rồi đối chiếu với máy được đề xuất. Nếu dự án của bạn yêu cầu một cấu trúc liên kết cụ thể vẫn chưa rõ, lựa chọn vẫn chỉ là tạm thời. Hai tác vụ độc lập là một kịch bản khác, với kiểm tra bộ nhớ và kết quả được chấp nhận cho từng tác vụ.

Biết khi nào nên tạm dừng quyết định

Công thức này ít phù hợp với một nhóm mong đợi một ứng dụng được quản lý hoàn toàn, chuẩn bị ngay lập tức hoặc cam kết sẵn sàng đã được bảo đảm. Việc chọn một môi trường trong đơn hàng không phải là bằng chứng của một cài đặt hoạt động. Nếu những điểm này là thiết yếu, hãy ghi lại thông tin hoặc cam kết cần có trước khi chọn ưu đãi.

Khi nhận hàng, sau đó kiểm tra mục tiêu và ca thử đã thống nhất. Một lần khởi chạy thành công không xác nhận toàn bộ tập dữ liệu lẫn các kỳ tương lai. Trong bảng, hãy phân biệt đạt, sai lệch và chưa kiểm tra; một kiểm tra bắt buộc chưa thực hiện sẽ ngăn việc tuyên bố phạm vi được chấp nhận. Lưu giữ hạng mục, giới hạn được chấp nhận và tên người quyết định, kèm bảo lưu rõ ràng hoặc từ chối tùy theo sai lệch.