192 ГБ для какого объёма работ?
AMD Instinct MI300X основана на CDNA 3 и располагает 192 ГБ HBM3. Эта ёмкость позволяет изучать обработки, выходящие за рамки карт меньшего размера, но не даёт оснований заключать, что конкретная модель в неё поместится. Оценивайте веса, активные данные и временные области с учётом вашей числовой точности и реальных параметров.
Провести инвентаризацию зависимостей CUDA
PyTorch на ROCm частично повторно использует интерфейс torch.cuda. Поэтому наличие этого имени в программе не доказывает ни несовместимость, ни полную переносимость. Изучите прежде всего скомпилированные расширения CUDA, внешние библиотеки и специфические операции, от которых зависит ваша обработка.
Обратитесь к матрице совместимости ROCm, чтобы сопоставить оборудование, систему и фреймворк. Подготовьте тест загрузки, короткий запуск, а затем сравнение ожидаемых результатов. Зафиксируйте допустимые отклонения с ответственным за бизнес до того, как продлевать кампанию; миграцию оценивают в том числе по достоверности её выходных данных.
Когда сохранить конфигурацию NVIDIA
Если незаменимый компонент остаётся привязанным к CUDA и в вашем проекте нет проверенного варианта, H200 SXM с 141 ГБ — другой вариант, который стоит рассмотреть. Она даёт меньше памяти на карту, чем эта MI300X, но может ограничить объём переноса. Сравнивайте стоимость перехода и его сроки, а не только заявленную ёмкость.
Разделить перенос и производственную кампанию
Спланируйте период в 3 дня вокруг критических зависимостей, период в 7 дней вокруг набора типовых работ или 30 дней вокруг уже квалифицированной цепочки. Предусмотрите решение для восстановления задач, которые не пройдут приёмку.
В конфигураторе выберите длительность, лоты и подготовку окружения, затем свои контактные данные. Каждый лот содержит одну MI300X. Вы выбираете свои программы и способы обработки; эта автономность делает ваш перечень зависимостей особенно полезным для подготовки аренды и передачи её в эксплуатацию.