Capordia测量 141 GB 内存的实际占用
该 Hopper 配置配备 141 GB HBM3e 内存。请将您的需求拆分为常驻数据、临时工作空间以及每个活跃任务消耗的内存。对于推理服务，尤其要测试长请求和同时到达的请求：日均值很容易掩盖决定容量规划的峰值。
根据您的测量结果设定作业准入上限。目标是了解您的应用能接受的工作量，然后为其波动保留余量。一个模型能够正确加载，并不代表它已证明能够支撑您的运营节奏。
从 80 GB 配置迁移
首先用与之前环境相同的数据集和参数重跑一遍。然后每次只调整一个因素：数据批次大小、输入长度或并发数。这样您才能将结果变化归因于具体原因，并向后续团队传递一份易于理解的流程。
H100 还是 H200：根据约束条件选择
80 GB 的 H100 SXM 仍然是备选方案——前提是您的负载及其余量已能容纳在这一规格内。当单卡容量成为瓶颈时，H200 尤其值得重点评估。不过，仅凭显存并不能预测一次计算需要多长时间：请保持完全相同的测试流程来比较各种配置。
为每个周期设定目标
在 3 天的周期内，重点安排以显存峰值为核心的验收。在 7 天的周期内，组织多次能代表团队工作时段特征的运行。在 30 天的周期内，设定定期检查和结果导出，而不是等到周期结束才处理。
租用前的准备包括选择时长、批量与环境，然后填写订单联系人信息。每个批量对应一块 H200。请将订单摘要与您的验收标准一并保存，以便轻松核对所订购的算力与实际安排的工作。