既存のものを測定可能な基盤にする
提供される A100 SXM は 80GB の HBM2e を搭載し、NVIDIA Ampere アーキテクチャを採用しています。コードのバージョン、依存関係、入力サンプル、そして現在許容される結果を生み出しているパラメーターをまとめてください。この基盤により、処理のルールを同時に変更することなく、新しい実行を検証できます。
同じ GPU ファミリーであっても、実際に使用されるソフトウェア環境を確認してください。ライブラリのバージョンが異なると、アプリケーションの挙動が変わる可能性があります。受け入れ用のドキュメントは、同僚がメッセージ履歴から判断を探し直すことなく、テストを再現できるものでなければなりません。
追い込みキューの整理
作業を締め切り、依存関係、再開の可否で分類します。緊急のタスクと任意の実験を分け、それぞれに期待される出力と再起動のルールを対応付けます。チェックポイントが実際に読み直せることを確認してください。ディスク上に存在するだけでは、作業が正しく再開できることを証明するものではありません。
検証可能な理由で H100 へ移行する
H100 SXM も 80GB を提供しますが、別のアーキテクチャで HBM3 を搭載しています。そのため、このモデルへの移行によって 80GB の容量超過が機械的に解決されるわけではありません。具体的なアプリケーションテストを行った上で検討してください。カードあたりのメモリが主なボトルネックである場合は、より大容量の構成も比較してください。
作業計画から期間を選ぶ
3日間の場合は、受け入れ結果を伴う短いリストを選びます。7日間の場合は、データがすでに準備できている作業をまとめます。30日間の場合は、納品を複数のマイルストーンに分け、回収した出力を定期的に確認します。
必要な A100 のロット数、期間、適切な環境を注文します。注文時の連絡先はフォローアップの窓口を示します。その後、サマリーを技術チームと共有し、ある人がキャパシティを予約している間に別の人が異なるスケジュールを準備する事態を避けてください。