CapordiaОпределить подходящий вариант H100
Это предложение соответствует H100 PCIe с 80 ГБ HBM2e на архитектуре Hopper. Оно не обозначает ни H100 SXM с 80 ГБ HBM3, ни H100 NVL. Указывайте это полное обозначение в документах по квалификации, чтобы последующее сравнение не смешивало разные аппаратные версии.
Формат PCIe описывает продукт, но сам по себе не даёт характеристик всей машины. Для приёмки исходите из видимых ресурсов и потребностей приложения, не выводя конфигурацию сети или связь между картами из модели.
Разделить загрузку, вычисления и результаты
Разбейте типовой запуск на три этапа: загрузка данных, обработка на GPU и формирование выходных данных. Сохраняйте их длительность и максимальный объём памяти вместе с версиями программного обеспечения. Если входные данные поступают медленно или преобладает экспорт, приоритетом может стать организация файлов и пакетов заданий, а не изменение конфигурации.
Сравнить с A100, не меняя протокол
A100 SXM с 80 ГБ — альтернатива для приложения, уже проверенного на Ampere. H100 SXM — другой вариант Hopper, который стоит рассмотреть. В обоих случаях сохраняйте те же числовые параметры и те же данные: одновременное обновление программного обеспечения размоет сравнение и усложнит решение о миграции.
Арендовать, чтобы решить, затем чтобы выполнять
Аренда на 3 дня может послужить для квалификации конкретного сценария. Период в 7 дней позволяет включить несколько серий в план команды. Для 30 дней подготовьте приоритизированную очередь и контрольную точку перед каждым новым семейством данных.
Выберите количество пакетов, каждый из которых включает одну карту, затем длительность и окружение. Укажите контактные данные человека, который будет сопровождать заказ. Перед полной кампанией добейтесь утверждения результата приёмочного теста ответственным за обработку.