在看价格之前先确定标准
有用的比较始于一份简短的统一记录表。固定应用程序版本、其后端、输入数据集、精度、工作批量大小和质量标准。如果您更改其中任何一项,请将其记为另一次实验。然后记录每个候选方案被淘汰或选中的原因。
如果是迁移到 AMD,请查阅与您的硬件和软件栈相对应的 ROCm 兼容性矩阵。公布兼容性是前提;它并不能证明您的应用程序或所需的某个环境准备工作已经可用。验收必须核实版本以及目标环境上的结果。
| 标准 | 预期值或材料 | 对决策的影响 |
|---|---|---|
| 兼容性 | 应用程序、版本、后端和依赖项 | 排除无法验证运行路径的选项 |
| 可用显存 | 观察到的峰值及其单位、设置和余量 | 核实任务所需的每张 GPU 容量 |
| 工作分配方式 | 独立任务或多 GPU 应用 | 按批与可用批数定义显卡 |
| 验收结果 | 测试数据集与质量标准已确定 | 仅比较满足同一需求的结果 |
| 周期与预算 | 相同天数、相同批数,总额以 USD 计 | 比较范围一致的财务投入 |
区分批、显卡与每块 GPU 的显存
批是租赁单位。显卡数量取决于配置:一个 B200 批包含两块显卡,而一个 RTX 4090 批包含一块显卡。所需显卡数量的计算方式为:批数 × 每批显卡数。USD 总额按批价与所选时长计算,不再额外乘以显卡数量。
所示显存为每块 GPU 的显存。两块 180 GB 的 B200 代表两个 180 GB 的显存空间;它们的算术之和并不等于可自动供某项任务使用的显存。NVIDIA 说明了多 GPU 交换的软件与硬件条件。所涉机器的拓扑与链路应实际观测,而非根据型号名称推断。
请保留各项读数所用的单位。十进制 GB 等于十亿字节;GiB 等于 2 的 30 次方字节。若规格表与显示二进制单位的工具之间存在差异,应先作出解释,再断定显存不足。标称容量也不代表您运行期间的可用显存。
在相同财务条件下比较成本
以下是一个预算示例,取自我们 2026 年 9 月 24 日的目录。某团队考察一个批,为期七天,使用一块显卡。他们暂定一个可容纳于 24 GB 的负载,具体以测试为准。该假设引出两种可供考察的方案;它并不认为两者具有相同的速度、相同的软件支持或相同的结果。
就该范围而言,价格差为 110.00 − 55.00 = 55.00 USD。这是七天投入的差额。在没有针对可接受结果的实测时间的情况下,无法据此推断每项已完成任务的成本。团队的准备时间以及可能的外部传输或支付费用应单独考察;此处未对其进行估算。
| 配置 | 批次 | 每批显卡数 | 每块 GPU 的显存 | 时长 | 套餐总额 |
|---|---|---|---|---|---|
| NVIDIA GeForce RTX 4090 | 1 | 1 | 24 GB | 7 天 | 110,00 USD |
| NVIDIA RTX A5000 | 1 | 1 | 24 GB | 7 天 | 55,00 USD |
形成一项团队可验收的决策
在比较末尾写四行:所选方案、决定性标准、已接受的限制和仍需执行的检查。若结果缺失,请将决策标记为暂定。更大的容量只有在解决已识别约束时才有意义;更低的价格并不能证明任务完成的总成本更低。
验收资料包 v1 包含一份十项检查清单、一份决策模板、若干有据可查的盘点命令和一个虚构示例。请填写您的输入、带单位的观测结果以及支撑每项状态的证明材料。这些文档不含任何 GPU 测量数据。它们用于组织您的团队所需汇集的证据。
先保留候选方案,再逐一解除条件
要为团队推荐配置,请先列出一份合格的候选清单。未满足的必选标准会排除某个方案;未知的必选标准则使其留待确认。随后再由价格、对工具的熟悉程度或容量余量来区分满足需求的方案。偏好不能弥补缺失的必备条件。
同一份需求单也可用于寻找当前环境的替代方案:保留那些在变更后仍需维持的约束条件,并明确列出你愿意调整的部分。单纯增加显卡数量,并不能解决排队、数据准备或可用时长方面的问题。
| 必需标准 | 需收集的材料 | 决策与界限 |
|---|---|---|
| 并行任务 | 任务方案:独立任务或分布式应用;每项任务占用的显卡。 | 采用可执行的方案。多批显卡并不能证明 GPU 之间已并置或已互联。 |
| 机器资源 | 约定范围:CPU、宿主 RAM、可用空间、路径、网络流量;到货时清点。 | 缺少最低必需项仍有待确认。GPU 规格表并未记录这些机器资源。 |
| 可用时段 | 包含准备、传输、测试、处理和导出的时间表;目标可用性有待确认。 | 排除与截止期限不兼容的时段。显示的库存并不代表已预留交付日期。 |
| 地点与承诺 | 如有要求:在合同范围内确认目标地点、联系人、支持方式与可接受的责任划分。 | 若这些要求仍不明确,应暂停;排除不兼容的范围。规格表既不保证托管地区,也不保证支持级别。 |
| 取回与恢复 | 最终目的地、导出时间窗、读取校验;如有要求则说明恢复流程。 | 保留 R05、R06、R08 和 R09 证据。产品目录既不证明包含备份,也不证明期满后会继续保存。 |
| 能够接收的团队 | 应用负责人、接力操作员、所需访问权限,以及验收结果的人员。 | 核对 R10 交接。商户账户并不能证明对目标拥有技术权限。 |
构建选型时的两种情况
第一种情况(虚构):您的独立任务要求每张 GPU 提供 40 GB(含余量),以您实测的数据为准,并与规格表采用相同单位。标称容量更低的显卡被排除。48 GB 的 L40S、RTX 6000 Ada、RTX A6000 和 A40 可以加入待考察清单:每一批均含一张显卡。该清单涉及产品目录中四个 48 GB 选项;它不对其速度排序,也不排除容量更高的选项。仍需核实软件、实际可用内存和机器资源。
第二种情况:某个应用需要将同一处理任务分配到两张 GPU 上。B200 批次提供两张待考察显卡,但其名称不足以验证该场景。请记录任务分配方式、所需版本和交互,然后与所提供的机器进行比对。如果您的项目要求尚不明确的特定拓扑结构,则选型仍为暂定。两项独立任务构成另一种场景,需分别对每项任务进行内存校验并取得可接受的结果。
了解何时暂停决策
如果团队需要完全托管的应用程序、即时可用的环境准备,或已经得到保障的可用性承诺,那么此方案就不太适合。在下单时选择某个环境,并不代表该环境已经安装并可正常运行。如果这些要点不可或缺,请在选定该方案之前,记录下需要获得的信息或承诺。
随后,到货验收将核对目标与约定的测试用例。一次成功启动既不能验证所有数据集,也不能验证未来的使用周期。在表格中,请区分符合、偏差和未核实;某项必需检查未执行,则不得声明范围已被接受。保留材料、允许的界限和决策人姓名,并根据偏差明确保留意见或予以拒绝。
决策要点
两张 180 GB 的显卡能否直接加载 360 GB 的任务?
不能,不会自动加载。每张显卡保留各自的内存。需要能够拆分任务的应用以及合适的硬件配置。实际可用容量和交互情况必须结合计划采用的设置进行核实。
如何比较含两张 GPU 的批次与含单张 GPU 的批次?
首先比较您的应用实际可用的部分,然后比较相同时长和相同需求覆盖范围。每个批次的价格覆盖其中包含的显卡。每卡价格有助于理解预算,但不能证明等效的可用算力或速度。
为什么更便宜的 RTX A5000 没有被列为优于 RTX 4090?
在我们 2026 年 9 月 24 日的目录中,七天套餐 RTX A5000 批次为 55.00 USD,RTX 4090 批次为 110.00 USD。此处没有针对您负载的共同测试,因此无法据此对性能进行排名。选择还取决于兼容性、所获得的质量以及完成工作所需的时间。
选定型号后还需要核实什么?
检查相关机器、软件版本、所需资源以及事先确定的测试集结果。验收表格应将制造商标称参数、机器实测观察和您对任务的接受情况分别记录。未执行的强制检查不等于合规。