主流 GPU 对比
当前大模型训练主流 GPU 包括 NVIDIA A100、H100、H200 以及 AMD MI300X 等。不同 GPU 在性能、功耗、成本方面各有优劣。
A100：性价比之选
A100 作为上一代旗舰，目前价格已经大幅下降。对于 70B 以下参数规模的模型训练，A100 仍然是最具性价比的选择。8 卡 A100 集群日租金约 300-400 元。
H100：性能王者
H100 凭借 Hopper 架构和 FP8 精度支持，在大模型训练速度上领先 A100 约 3-6 倍。适合追求极致训练速度的企业。8 卡 H100 集群日租金约 800-1000 元。
H200：新一代旗舰
H200 搭载 HBM3e 显存，带宽和容量大幅提升，特别适合超大模型训练。但价格昂贵，适合预算充足的大型项目。
选型建议
- 初创企业：建议从 A100 起步，成本可控
- 中型项目：H100 性价比更高，训练速度快
- 超大模型：考虑 H200 或 H100 集群
- 预算有限：可选择云主机按小时计费