如何以低于2美元的价格使用 H100

Source: Dev.to

TL;DR

通过三种做法可以最大程度地降低 H100 的运行成本：使用多供应商搜索定位最低的 Spot 价格、设计避免 GPU 空闲的训练流程、并且频繁 checkpoint 以便在不同供应商之间迁移而不丢失进度。本文将以可靠且对开发者友好的方式说明如何实现。

为什么 H100 价格差异如此巨大

H100 的价格在按需供应商、Spot 市场以及社区 GPU 平台之间差别很大。受供给、地区和主机容量影响，同一块 H100 在 Vast AI、Akash 等平台上可能低于 每小时 2 美元，而在其他地方则可能超过 每小时 8 美元。这种价差使得价格发现变得至关重要，只有这样才能保持成本效益。

大多数工程师之所以付出过高费用，是因为他们锁定在单一平台上，或在 GPU 空闲时仍让作业持续运行。这两个问题都可以通过更好的发现机制和更合理的工作负载设计来解决。

实践 1 – 使用跨供应商搜索定位最低价格

Spot 市场和社区 GPU 市场通常提供显著更低的价格，但可用性会波动。跨供应商的发现层可以帮助你在不手动检查多个仪表盘的情况下，找到当前最低成本的 H100。

Aquanode 提供了一个简单的价格过滤器，聚合了主要市场的列表。你可以按实际小时价格、显存大小或主机评分进行排序。这一点很重要，因为在需求低谷期间，H100 价格经常跌破 2 美元。

实践 2 – 通过 Checkpoint‑First 训练避免 GPU 空闲时间

H100 工作负载中最大的隐藏成本是 GPU 空闲。如果把 GPU 会话视为可随时丢弃的资源，就可以在 GPU 未进行训练时立即终止，然后稍后再恢复。

实用模式：

• 每 N 步保存一次 checkpoint。
• 将 checkpoint 同步到持久的远程存储。
• 当进行预处理、评估或调试导致 GPU 空闲时，关闭 H100。
• 在任何可用的 H100 上重新启动，即使是来自其他供应商。
• 这样可以让你的实际成本接近真实的训练时间，而不是整个会话时长。

实践 3 – 在机器之间迁移而不影响训练

如果出现更便宜的 H100，你应该能够立即迁移。主流框架已经支持此功能：

• PyTorch state_dict checkpoint
• DeepSpeed 与 FSDP 分片 checkpoint
• Hugging Face Accelerate 统一 checkpoint

示例工作流：

1. 在约 2 美元 的 H100 上训练。
2. 出现了 1.60 美元 的新列表。
3. 保存 checkpoint 并停止当前会话。
4. 在更便宜的主机上启动新会话。
5. 恢复 checkpoint 并继续训练。

这相当于在公共 GPU 市场中使用大规模集群调度策略。

真实案例

假设你每天训练扩散模型 8 小时。传统的长期实例往往会累积大量空闲时间，导致费用超出预期。改为：

• 主动训练： 租用当前最低成本的 H100。
• CPU 密集的预处理或调试： 关闭实例。
• 出现更便宜的 H100 时： 迁移并继续。

通常可以实现 超过 40% 的节省，因为你只在 GPU 实际被利用时付费，并且始终选择最低价的硬件。

稳定性与供应商差异的注意事项

低成本的 H100 往往来自不同的主机，网络带宽、NVMe 性能和启动特性各不相同。为保证迁移的可靠性：

• 使用容器化环境。
• 将 checkpoint 存储在外部。
• 避免使用供应商特定的绑定。
• 在启动时验证 GPU 的计算能力。

结论

让 H100 工作负载的费用低于 2 美元 并不是依赖单一供应商，而是使用能够实时展示最低价格的发现层，并将工作流设计为会话可移植。Aquanode 能帮助你找出低成本选项，而 checkpoint‑first 的设计则使训练独立于任何单一机器或供应商。