H100租賃價首降:AI算力拐點已至

核心要點

摩根大通7月報告揭示AI基礎設施緊張緩解,Token與H100租賃價同步下跌。開源模型崛起改變格局,但高端訓練與內存瓶頸仍存,成本下降呈結構性分化。

據 Woofun AI 消息,摩根大通在2026年7月發佈的《數據中心觀察》報告指出,AI推理調用價格與高端GPU短期租賃價格同步下行,標誌着AI基礎設施緊張狀況出現實質性緩解。這一價格回調並非源於需求疲軟,而是得益於開源模型的廣泛部署與推理效率的提升,使得供應端終於能夠跟上需求步伐。

在Token價格層面,2026年7月主流模型的輸入Token均價持續走低,每百萬個輸入Token的價格區間集中在0.2美元到5美元之間,7月平均月度降幅達到3%。

值得注意的是,這種整體成本的降低掩蓋了模型間的顯著分層:GPT-4oClaude 3.5 Sonnet等閉源旗艦模型的輸出Token價格遠高於輸入價格,而GPT-4o mini等輕量級模型則無法與旗艦型號直接對標。因此,報告中的低價更多反映的是輸入Token、輕量級模型或託管服務商的收費標準。

儘管如此,對於執行問答、代碼生成、搜索優化及客戶服務等高頻任務的AI應用企業而言,單位推理成本確實在下降。過去幾年大型模型商業化中"用得越多損失越大"的困境,因輸入Token單價的降低而有所緩解,使得部分高頻應用更接近可承受的成本範圍。

Woofun AI 整理數據顯示,價格下降的背景是推理量的激增。從2026年上半年到7月,LLM Token處理量增長數倍,某些子類別增幅超過四倍。OpenAI、Anthropic、Meta等頂級模型的使用率穩定在70%-80%,高性能GPU使用率超過80%。Llama系列開源模型的廣泛部署進一步推高了推理總量。市場所見並非因用量不足導致的價格下跌,而是規模效應下的單位價格降低,模型服務提供商、開源模型生態系統及基礎設施供應商共同推動了這一趨勢。

開源模型的崛起正在重塑支出格局。7月,開源模型使用量環比增長26%,同比增長63倍;加權平均價格環比上升36%,Token相關支出增長71%。開源模型在Token支出中的佔比從5月的10%、6月的12%躍升至7月的20%。

儘管閉源模型僅佔Token總供應量的29%,卻貢獻了80%的支出,顯示其仍佔據大部分商業價值。從使用量看,MiMo v2.5DeepSeek v4 FlashGLM 5.2DeepSeek v4 ProMiniMax M3前五模型合計佔據Token總供應量50%。從支出看,Claude Opus 4.8Claude Opus 4.7Fable 5Kimi K3GPT-5.6 Sol前五模型合計佔總支出54%。Kimi K3躋身支出榜前五,表明開源模型正進入高價值推理場景,有助於企業減少對單一閉源供應商的依賴。

GPU租賃市場同樣出現結構性變化。2026年7月,非超大規模雲服務提供商市場中,H100平均租賃價格爲每GPU小時2.68美元,環比下降1.1%,這是連續七個月上漲後的首次下降。降幅遠低於15%到25%的預期,且報告採用按GPU小時計算而非按卡每週計算,反映出供應端反應:更多GPU進入雲租賃市場,加劇了雲服務提供商與計算能力平臺間的競爭。短期價格不再完全由極度短缺決定,購買、租賃及等待獲取GPU卡的壓力減輕。

然而,H100價格仍明顯高於A100,GPU整體使用率保持在75%-90%,高性能GPU使用率超過80%。租金下降更像是擠出了供應短缺溢價,而非計算能力整體供應過剩。

成本影響呈現雙面性。推理業務受益於持續穩定低延遲計算能力的供應,API服務提供商、AI搜索工具、代碼助手及企業級AI產品的成本結構得以改善。然而,大規模模型訓練的成本壓力難以同步降低,因其不僅取決於GPU數量,還涉及集羣互聯、內存帶寬、調度效率及電力供應。2026年5月至6月,DRAM現貨價格迅速上漲,DDR5 16Gb累計漲幅超過90%-100%,7月才趨於穩定。HBM因AI加速器需求價格高位,合約價格滯後1-2個季度。高端AI加速器受限於HBM、先進封裝技術及數據中心交付能力,即便部分GPU租賃價下降,上游內存和高端集羣交付能力仍限制整體成本下降速度。計算能力最緊張時刻雖緩解,但短缺未結束。

展望2026年中,AI基礎設施供應跟上需求,單位調用成本下降。短期成本下降利好應用方,但Token使用量快速增長、高端GPU使用率高、輸出Token價格高及HBM供應緊張,使得成本下降呈現商品化與高端分化。模型服務提供商和雲平臺利潤空間受擠壓,開源模型追趕增強客戶議價能力,閉源API高價優勢面臨挑戰。硬件和雲服務提供商的超高回報迴歸正常,長期合同、地區差異、批量規模及現貨價格導致實際費用差異巨大。僅憑每週租賃平均價格無法推斷所有云服務提供商營收下降。

參與投票

H100租赁价首降,AI算力拐点到了吗?

0 人已投票

評論

回覆 @用戶
0/800

暫無評論

消息提醒

登入後查看消息
查看全部消息管理訂閱