确定合适的 H100 版本
该产品对应的是采用 Hopper 架构、配备 80 GB HBM2e 的 H100 PCIe。它既不指 80 GB HBM3 的 H100 SXM,也不指 H100 NVL。请在您的选型文档中完整记录这一名称,以免后续比较时混淆不同的硬件版本。
PCIe 规格描述的是产品本身,但仅凭它并不能给出整台机器的全部特性。在验收时,请以可见的资源和应用需求为出发点,不要根据型号去推断网络配置或卡间互联。
将加载、计算与结果分离
将一次有代表性的运行拆分为三个阶段:数据加载、GPU 处理和输出生成。记录各阶段的耗时和峰值内存,并注明软件版本。如果输入到达缓慢或导出环节占主导,那么在修改配置之前,优先事项可能是整理文件和工作批次。
在不改变测试方案的前提下与 A100 对比
80 GB 的 A100 SXM 是已在 Ampere 上验证过的应用的一个替代方案。H100 SXM 是另一个值得考虑的 Hopper 变体。无论选择哪种,都要保持相同的数值参数和相同的数据:同时升级软件会干扰对比,使迁移决策更加复杂。
先租用来决策,再租用来执行
租用 3 天可用于验证某个具体场景。7 天的周期可将多组任务纳入团队排期。若租用 30 天,请准备一个按优先级排序的队列,并在每个新数据系列之前设置检查点。
选择批次数量(每批包含一张显卡),然后选择时长和环境。填写将跟进订单的联系人信息。在全面开展之前,请由处理负责人批准验收测试的结果。