Tiếp nhận cấu hình GPU theo nhóm

Chuẩn bị quyết định trước khi bàn giao

Hãy bắt đầu bằng một đơn vị công việc đã hoàn thành: một thư mục đã được bổ sung và xuất ra, một lô bản render được người nhận mở ra hoặc một đánh giá kèm theo các kết quả đầu ra. Viết tiêu chí nghiệp vụ bên cạnh tiêu chí kỹ thuật. Một chương trình có thể kết thúc không lỗi mà vẫn tạo ra kết quả vô dụng. Ngược lại, một kết quả đúng đạt được chỉ một lần vẫn chưa chứng minh rằng nhóm biết chạy lại công việc và khôi phục các tệp của mình.

Hãy giữ nguyên các tham số ảnh hưởng đến tải: khối lượng đầu vào, độ chính xác, kích thước lô, mức đồng thời và các phụ thuộc. Phân biệt một hàng đợi tác vụ độc lập, một tác vụ chia phép tính của mình trên nhiều card và một dịch vụ nhận yêu cầu liên tục. Ba cách tổ chức này không có cùng tiêu chí nghiệm thu. Một dòng "GPU mạnh" không cho ai cách nào để quyết định.

Người phụ trách dự án đặt ra các tiêu chí trước khi thử nghiệm. Đơn vị vận hành chuẩn bị quyền truy cập, người phụ trách ứng dụng cung cấp lệnh chạy đã biết và người nhận xác nhận kết quả đầu ra. Một người có thể đảm nhận nhiều vai trò; tuy nhiên mỗi vai trò đều phải có người chính và người thay thế. Trong khoảng thời gian đã chọn, hãy dành thời gian cho cài đặt, thử nghiệm, một lần sửa lỗi có thể và xuất kết quả cuối cùng, ngoài phần tính toán hữu ích.

Tách biệt nhà sản xuất, phần cấp phát và tác vụ thực tế

Thông số kỹ thuật của một GPU mô tả một phần cứng tham chiếu. Máy được cấp phát mang thêm các thuộc tính khác: số thiết bị hiển thị, quyền được cấp, phiên bản phần mềm, dung lượng và đường dẫn sử dụng được. Tác vụ chuẩn mang đến một cấp độ thứ ba: kết quả đạt được với dữ liệu và cài đặt của bạn. Trong bảng, hãy gán mỗi dòng cho một cấp độ duy nhất để tránh việc một đặc tính của nhà sản xuất bị coi như một thước đo dịch vụ của bạn.

Đừng suy ra NVLink, một cấu trúc liên kết cụ thể hay tốc độ đĩa chỉ từ mẫu card. Nếu ứng dụng của bạn phụ thuộc vào những thuộc tính này, hãy biến chúng thành yêu cầu rõ ràng, yêu cầu xác định rõ phạm vi rồi kiểm tra trên mục tiêu. Nếu chúng không cần thiết cho tải của bạn, đừng thêm chúng như những điều kiện nghiệm thu giả tạo.

Bộ nhớ trên mỗi GPU và số lượng card vẫn là hai cột khác nhau. Một lô B200 tại Capordia gồm hai GPU; điều đó không đủ để gán một vùng nhớ duy nhất cho một chương trình được thiết kế cho một card. Hãy ghi lại cơ chế phân chia của phần mềm trước khi mong đợi lợi ích từ nó.

Lập bản kiểm kê mà không thay đổi cài đặt

Trên NVIDIA, các lệnh dưới đây ghi lại phiên bản công cụ, danh sách GPU và một số thuộc tính ở định dạng CSV. Trước tiên hãy xem trợ giúp đã cài đặt: các trường và chức năng khả dụng phụ thuộc vào phiên bản. Tài liệu NVIDIA khuyến nghị dùng các định danh như UUID để theo dõi một thiết bị, vì thứ tự chỉ số có thể thay đổi. Hãy giữ nguyên đơn vị do công cụ ghi ra. Những phép ghi nhận này không khởi chạy một tác vụ GPU và không đánh giá hiệu năng của nó.

Với AMD, hãy ghi lại phiên bản bằng "amd-smi version", rồi kiểm kê và các thuộc tính tĩnh bằng "amd-smi list --json" và "amd-smi static --json". Kiểm tra các tùy chọn qua trợ giúp của bản cài đặt của bạn. AMD SMI giả định có một GPU AMD và trình điều khiển của nó; tài liệu được tham chiếu là của AMD SMI 27.0.0. Một trường không khả dụng phải giữ là "chưa xác định", kèm lý do, thay vì được gán một giá trị phỏng đoán.

Sau đó hãy lưu trữ phiên bản của ứng dụng và các thư viện của nó. Dải CUDA của NVIDIA SMI tự nó không chứng minh phiên bản toolkit đã cài đặt. Với ROCm, hãy đối chiếu tổ hợp GPU, hệ thống và phiên bản với ma trận tương ứng. Trong cả hai trường hợp, phép thử quyết định vẫn là khởi chạy ứng dụng của bạn trong môi trường thực sự dự kiến.

Tệp cung cấp các lệnh NVIDIA và AMD để chạy trên máy của bạn, rồi đính kèm vào biên bản. Chúng dựa trên các tài liệu chính thức; không có kết quả CUDA hay ROCm nào được đo trong ví dụ này. Tệp lệnh có thể tải xuống bao gồm cả hai nhánh và các trường cần đính kèm vào biên bản.

nvidia-smi --version
nvidia-smi --help-query-gpu
nvidia-smi -L
nvidia-smi --query-gpu=index,name,uuid,memory.total --format=csv

Chuyển mỗi yêu cầu thành một kiểm tra có thể quan sát

Một dòng nghiệm thu tốt liên kết một tiêu chí, một phương pháp và một tài liệu chứng minh. Ví dụ, «đủ dung lượng lưu trữ» trở thành: vị trí làm việc đã được xác định, dung lượng trống được ghi nhận trước khi chạy và bản xuất được mở từ đích của nó. Dung lượng cần thiết là dung lượng của công việc bạn làm, kể cả các tệp trung gian; hướng dẫn này không giả định một dung lượng đĩa gắn với mỗi GPU.

Hãy cố định đơn vị trước khi so sánh hai kết quả đo. Một GB thập phân bằng một tỷ byte; một GiB bằng 2 mũ 30 byte. Các công cụ có thể hiển thị ký hiệu tiếng Anh GB và GiB, hoặc MiB cho một đơn vị nhỏ hơn. Hãy giữ nguyên giá trị thô và đơn vị của nó, rồi ghi rõ việc quy đổi nếu có. Đừng loại bỏ một cấu hình chỉ vì sự khác biệt về ký hiệu giữa một bảng thông số và một kết quả đo.

Về mạng, hãy kiểm tra luồng của dự án: cùng đích, cùng quyền và loại tệp đại diện. Một lượt tải xuống riêng lẻ không đủ để đánh giá việc xuất hàng nghìn kết quả nhỏ. Hãy đo và ghi lại việc truyền theo cả hai chiều nếu dự án sử dụng, rồi ghi rõ ngưỡng mà tiến độ của bạn yêu cầu. Nếu không có ngưỡng được quyết định trước khi thử nghiệm, một khoảng thời gian quan sát được vẫn chỉ là một quan sát.

Trạng thái «chưa thực hiện» tốt hơn một thành công không có tài liệu chứng minh. Bảng CSV để trống các cột quan sát, ngày và bằng chứng. Bạn chỉ có thể xóa một kiểm tra ngoài phạm vi nếu giải thích lý do và giữ lại sự đồng ý của người quyết định.

Biến tác vụ chuẩn thành một sự chuyển giao

Hãy chọn một mẫu được phép dùng làm nổi bật các ràng buộc của công việc thực tế. Một bản trình diễn nhỏ rất hữu ích để kiểm tra việc khởi chạy; nó không thay thế được một trường hợp làm lộ ra đỉnh bộ nhớ, các tệp trung gian hay bản xuất cuối cùng. Hãy ghi lại mã định danh của bộ dữ liệu thử nghiệm, các phiên bản và cấu hình. Thư mục chung tham chiếu phương pháp cung cấp các bí mật mà không lưu giá trị của chúng.

Người phụ trách ứng dụng thực hiện một chu trình hoàn chỉnh từ một lần khởi động đã biết đến khi mở các đầu ra. Sau đó người vận hành lặp lại quy trình dựa trên thủ tục, không phụ thuộc vào một trạng thái ẩn trong terminal của người vận hành đầu tiên. Mục tiêu là kiểm tra một sự bàn giao dùng được: đường dẫn, quyền, cách khởi chạy, vị trí nhật ký và khả năng khôi phục.

Hãy xác định cả những gì xảy ra sau một thất bại được kiểm soát. Một đầu ra tạm thời phải có thể phân biệt được với một kết quả được chấp nhận. Hồ sơ nghiệm thu không được bịa ra một cơ chế phục hồi mà ứng dụng không có: nó ghi nhận cơ chế đang tồn tại và dẫn tới thủ tục di trú để tổ chức các lô bị gián đoạn. Nếu phép tính là số học, dung sai thuộc về giao thức nghiệp vụ; sự trùng khớp từng bit không phải là một yêu cầu phổ quát.

Khi bạn so sánh nhiều cấu hình, hãy giữ nguyên giao thức này. Hãy ghi lại cả các lỗi và các lần thử cần làm lại. Quyết định cuối cùng có thể ưu tiên một lựa chọn vì nó đơn giản hóa hàng đợi công việc, việc nghiệm thu hay tiến độ; nó không cần biến một kết quả đo duy nhất thành bảng xếp hạng chung cho GPU.

Đọc một ví dụ đã điền mà không coi đó là một phép đo

Ví dụ có thể tải xuống «Atelier des plans» hoàn toàn là hư cấu. Một nhóm muốn xử lý một tập dữ liệu thử nghiệm gồm mười hai tài liệu kỹ thuật rồi thu về một chỉ mục để người phản biện có thể tra cứu. Mười hai tài liệu này chỉ là một giả định về tổ chức; không có tốc độ, mức tiêu thụ bộ nhớ hay số đo GPU nào được đưa ra. Mục tiêu H100 là một ứng viên để định khung, cần xác nhận sau khi xem xét phần mềm và khối lượng công việc.

Người phụ trách ứng dụng chuẩn bị việc khởi chạy và các thông tin đăng nhập dự kiến. Bộ phận vận hành kiểm soát quyền truy cập và việc trả về của các tệp. Người phụ trách kết quả phải xác nhận rằng mỗi tài liệu đều có một đầu ra đọc được và một tham chiếu trong chỉ mục. Trong kịch bản này, họ vẫn chưa thể mở bản xuất từ đích đến của mình. Các dòng về phần cứng và ứng dụng vẫn chưa được thực thi; do đó quyết định hư cấu là «tạm dừng đưa vào vận hành».

Ví dụ này cho thấy cách điền trách nhiệm và đưa ra một quyết định có thể giải thích được mà không dựng nên một thành công giả tạo. Việc thiếu bằng chứng xuất tệp không chỉ là một ghi chú bên lề: nó chặn đúng mục đích sử dụng đòi hỏi kết quả có thể thu hồi được. Lần thử lại sẽ phải thực hiện lại kiểm tra này, đính kèm minh chứng và ghi ngày cho quyết định. Chỉ xóa nhận xét trong bảng là chưa đủ.

Từ chối, chấp nhận có bảo lưu hoặc hoãn quyết định

Một tiêu chí chặn không đạt sẽ dừng việc nghiệm thu phạm vi liên quan. Một kiểm tra không thể thực hiện không tự nhiên trở thành đạt: nó tạo ra trạng thái «bị chặn» hoặc «chưa thực thi», một hành động và một người phụ trách. Tránh dùng «bảo lưu» để che giấu một điều kiện tiên quyết của công việc. Nếu không thể thu hồi một đầu ra, việc chỉ chấp nhận phần tính toán không cho phép chạy toàn bộ chuỗi.

Một bảo lưu có thể phù hợp với một điểm thứ yếu nếu mục đích sử dụng được phép được giới hạn rõ ràng, nếu một giải pháp tạm thời đã được kiểm chứng và nếu có người chấp nhận phạm vi đó. Hãy ghi một thời hạn kiểm tra lại và điều gì sẽ xảy ra nếu không tuân thủ. Một nghiệm thu giới hạn ở một thử nghiệm không có giá trị như nghiệm thu sản xuất.

Biên bản lưu giữ quyết định, các kiểm tra làm cơ sở cho quyết định đó và những kiểm tra còn bỏ ngỏ. Việc chấp nhận kỹ thuật không xác nhận một khoản thanh toán hay một mốc thời hạn hợp đồng: các theo dõi này giữ tham chiếu riêng của chúng. Khi các tiêu chí đã đạt, nhóm bàn giao cho bộ phận vận hành việc khởi chạy, các phiên bản, vị trí dữ liệu và quy trình kết xuất.

Tải và sử dụng hồ sơ nghiệm thu phiên bản 1

Mẫu Markdown đóng vai trò trang bìa và biên bản. Bảng CSV cung cấp các kiểm tra để tùy chỉnh, với các cột cho mức bằng chứng, người phụ trách, tiêu chí được quyết định trước khi kiểm tra, phương pháp, quan sát, minh chứng và trạng thái. Mở tệp CSV ở định dạng UTF-8 với dấu phẩy làm dấu phân cách; các trường kết quả được cố ý để trống. Hãy giữ một bản sao trống trước khi làm việc.

Mở mẫu bằng trình soạn thảo văn bản và mở bảng bằng bảng tính. Hãy điều chỉnh ví dụ hư cấu cho phù hợp với yêu cầu của bạn, rồi ghi nhận các quan sát trên máy của chính bạn. Giấy phép đi kèm cho phép sử dụng và điều chỉnh với điều kiện giữ nguyên thông báo; tên sản phẩm và tài liệu bên ngoài giữ nguyên quyền riêng của chúng.

Sử dụng biên bản nghiệm thu này để cho phép một phạm vi chính xác, rồi bổ sung khi có thay đổi về phiên bản, dữ liệu hoặc phương thức vận hành. Nó không phải là một phép đo chuẩn phổ quát cũng không phải là bảo đảm không có gián đoạn. Hướng dẫn di trú sẽ tiếp nối khi cần di chuyển trạng thái công việc và giải thích số phận của từng lô.