>
正文
Coinbase通過優化默認模型將AI成本降低近半
2026-06-27 19:36

據 Woofun AI 消息,Coinbase 首席執行官布萊恩·阿姆斯特朗披露,公司通過將 LLM 接口默認模型調整爲 GLM 5.2 和 Kimi 2.7 等開放權重模型,成功將 AI 相關成本降低近 50%。此舉旨在應對代幣使用量的指數級增長,同時保持支出穩定。數據顯示,91% 的員工從未觸及使用上限,因此公司未採取限制措施,而是專注於基礎設施優化。

在技術執行層面,Coinbase 實施了定製的任務路由機制,根據緩存命中率及模型成本動態分配任務,例如在規劃階段使用先進模型,而在執行階段切換至低成本模型以節約資源。

此外,通過強化緩存策略,LibreChat 的緩存命中率從 5% 提升至 60%,有效緩解了因緩存未命中導致的成本激增。公司還要求工程師規範操作環境,如重啓會話、縮小上下文範圍及關閉閒置工具,以構建支持規模化增長的基礎設施。

免責聲明:本內容為作者獨立觀點,不代表平臺立場。未經允許不得轉載,文中內容僅供參考,不作為實際操作建議,交易風險自擔。
標簽:
Brian Armstrong
Armstrong
GLM 5.2
Kimi 2.7
LibreChat
Coinbase
分享:
back