48 GB 的 Ampere 基础
NVIDIA A40 采用 Ampere 架构和 48 GB GDDR6 ECC。要选择这一容量档位,请考察完整项目及其显存峰值。一小段场景或数据样本可以验证整体运行情况,但无法代表一次完整批量任务的极限。请在验收中加入一个困难但确实存在于您业务中的输入样本。
检查您的软件及其依赖项所要求的启动方式。对于自动化执行,请特别测试文件路径的读取、项目资源的访问以及有用日志的生成。软件的使用条款也必须适合您的组织。
让恢复过程易于管理
为每项任务分配一个稳定的标识符,并将进行中的输出与已核验的输出分开。为失败情况制定明确的规则:重新运行、修正输入或请求复核。如果订购了多块 A40,请明确地在它们之间分配任务,并对尚需产出的内容保持统一的视图。
比较容量与应用需求
RTX A6000 是另一款 48 GB 的 Ampere 配置。L40S 保持每卡相同的容量,但升级到 Ada Lovelace 架构。请选择一个有代表性的项目,根据您的应用来区分各个选项。相同的内存容量既不能描述 GPU 的所有组件,也不能说明完整软件链的行为。
根据已就绪的输入确定周期规模
对于 3 天,请准备一个数据全部就绪的短队列。对于 7 天,请安排每日结果检查。对于 30 天,请组织新项目的接入和交付物的定期回收,并指定一名负责人。
租用时可配置批次数、时长和环境。填写联系方式和完成付款后,请使用订单跟踪来准备接收。每个批次对应一块 A40;请将这个数量与您的任务分配计划相核对。