让现有基础成为可衡量的基准
所提供的 A100 SXM 拥有 80 GB HBM2e,采用 NVIDIA Ampere 架构。请汇集代码版本、依赖项、一份输入样本以及目前能产生可接受结果的参数。这个基准让您能够验证新的运行,而不必同时改动处理规则。
即使使用同一代 GPU,也要控制实际使用的软件环境。不同的库版本可能会改变应用程序的行为。交接文件夹应能让同事复现测试,而无需在消息历史记录中翻找当时的决策。
组织补算队列
按截止时间、依赖关系和可恢复性对任务分类。将紧急任务与可选实验分开;为每项任务指定预期输出和重启规则。核实检查点确实能被重新读取。检查点存在于磁盘上,本身并不能证明任务能够正确恢复。
出于可验证的理由升级到 H100
H100 SXM 同样提供 80 GB,但采用不同架构并配备 HBM3。因此升级到该型号并不能自动解决 80 GB 容量超限的问题。请结合具体的应用测试来考虑;如果单卡内存是主要瓶颈,也请比较更高容量的配置。
根据任务清单选择时长
3 天:保留一份带验收结果的简短清单。7 天:汇集数据已准备就绪的任务。30 天:将交付分散到多个里程碑,并定期检查回收的输出。
按需订购 A100 的批次数量、时长和合适的环境。订单联系方式即为跟进联系人。随后将汇总信息同步给技术团队,避免一人在预留容量的同时另一人却在准备不同的日程。