H100 云价两倍于买价:长期合约降本 48%
核心要点
Fluence调研揭示云GPU溢价严重,H100 租赁价达硬件采购 2.8 倍。签订三年合约可降本 48%,即时算力仅占按需 53%。17 种GPU型号涨价,企业需重新评估预算策略。
据 Woofun AI 消息,Fluce 联合 、、、、、、、 以及 等机构发布的《AI 算力竞争报告》指出,采购规模直接决定了算力成本,而在 H100、H200 和 B200 这三种型号中,大型云服务提供商给出的价格分别是 GPU 云服务市场平均价格的 2.8 倍(H100)、1.98 倍(H200)以及 1.4 倍(B200)同一型号的 H200 GPU 每小时的价格则在 4.08 美元到 10.60 美元之间不等。
Woofun AI 整理数据显示,采购期限的长短对成本的影响几乎与服务商的选择同等关键。相较于各服务商的按需收费价格,签订一年期的服务合约可使价格降至平均水平的 21%,而锁定三年期合约则能让价格大幅下降 48%。对于那些允许任务中断的工作负载而言,即时可用算力的价格仅为按需服务的 53%。
此外, 监测的 22 种 GPU 型号中,有 17 种的售价比一年前更高,其中 H100 GPU 的租赁价格根据统计时间的不同,涨幅在 13% 到 30% 之间,那些预计 GPU 价格会下跌的买家或许需要重新评估自己的预算。
价格快速上升的深层原因在于模型架构的演变。Fluce 的联合创始人 指出,开放架构模型的性能已经非常接近最优秀的封闭架构模型,导致许多企业转而使用这类模型。现在,任何拥有 GPU 的企业都可以在自己控制的硬件上运行近乎前沿水平的模型,而 GPU 本身才是最关键的部件,报告建议企业采取四种策略来降低算力成本:比较不同服务商提供的相同芯片性能、在任务需求稳定时提前签订长期合约、让 GPU 的代际规格与所需模型相匹配,以及考虑非大型云服务提供商的服务,因为许多最新的新云算力资源早已被各研究机构提前预订。
作为报告的主要发起方,其算力资源来自多个独立数据中心,由 、Evgeny Ponomarev 和 于 2017 年创立。该公司迄今已从 、、、、老虎环球基金以及 等投资者手中筹集了 1400 万美元的资金。随着 AI 模型对算力的需求持续激增,GPU 市场的溢价现象可能进一步加剧,企业需重新评估其预算策略,从单纯的按需租赁转向更复杂的长期合约与混合架构组合,以应对日益高昂的算力成本。这是继芯片短缺之后,AI 基础设施面临的新一轮成本挑战。

评论
暂无评论