>
正文
Coinbase通过优化默认模型将AI成本降低近半
2026-06-27 19:36

据 Woofun AI 消息,Coinbase 首席执行官布莱恩·阿姆斯特朗披露,公司通过将 LLM 接口默认模型调整为 GLM 5.2 和 Kimi 2.7 等开放权重模型,成功将 AI 相关成本降低近 50%。此举旨在应对代币使用量的指数级增长,同时保持支出稳定。数据显示,91% 的员工从未触及使用上限,因此公司未采取限制措施,而是专注于基础设施优化。

在技术执行层面,Coinbase 实施了定制的任务路由机制,根据缓存命中率及模型成本动态分配任务,例如在规划阶段使用先进模型,而在执行阶段切换至低成本模型以节约资源。

此外,通过强化缓存策略,LibreChat 的缓存命中率从 5% 提升至 60%,有效缓解了因缓存未命中导致的成本激增。公司还要求工程师规范操作环境,如重启会话、缩小上下文范围及关闭闲置工具,以构建支持规模化增长的基础设施。

免责声明:本内容为作者独立观点,不代表平台立场。未经允许不得转载,文中内容仅供参考,不作为实际操作建议,交易风险自担。
标签:
Brian Armstrong
Armstrong
GLM 5.2
Kimi 2.7
LibreChat
Coinbase
分享:
back