CapordiaВизначити правильний варіант H100
Ця пропозиція відповідає H100 PCIe з 80 ГБ HBM2e на архітектурі Hopper. Вона не позначає ні H100 SXM з 80 ГБ HBM3, ні H100 NVL. Перенесіть це повне позначення до своїх документів кваліфікації, щоб подальше порівняння не змішувало різні апаратні версії.
Формат PCIe описує продукт, але сам по собі не визначає характеристики всієї машини. Для приймання відштовхуйтеся від видимих ресурсів і потреб застосунку, не роблячи висновків про мережеву конфігурацію чи зв'язок між картами на підставі самої моделі.
Розділити завантаження, обчислення та результати
Розділіть репрезентативний запуск на три етапи: завантаження даних, обробка на GPU та формування вихідних даних. Збережіть їхню тривалість і максимальний обсяг пам'яті разом із версіями програмного забезпечення. Якщо вхідні дані надходять повільно або якщо експорт домінує, пріоритетом може бути впорядкування файлів і пакетів робіт, перш ніж змінювати конфігурацію.
Порівняти з A100, не змінюючи протокол
A100 SXM з 80 ГБ є альтернативою для застосунку, вже перевіреного на Ampere. H100 SXM — це інший варіант Hopper, який варто розглянути. В обох випадках зберігайте ті самі числові параметри й ті самі дані: одночасне оновлення програмного забезпечення розмило б порівняння та ускладнило б рішення про міграцію.
Орендувати, щоб вирішити, а потім — щоб виконувати
Оренда на 3 дні може слугувати для кваліфікації конкретного сценарію. Період у 7 днів дає змогу включити кілька серій у графік команди. Для 30 днів підготуйте пріоритезовану чергу та контрольну точку перед кожною новою родиною даних.
Виберіть кількість пакетів, кожен з яких містить одну карту, потім тривалість і середовище. Заповніть контактні дані особи, яка супроводжуватиме замовлення. Перед повною кампанією затвердьте результат приймального тесту з особою, відповідальною за обробку.