据 Woofun AI 消息,Coinbase 首席执行官布莱恩·阿姆斯特朗披露,公司通过优化默认设置、路由机制及缓存策略,使人工智能相关支出减少近 50%,而代币使用量保持持续增长。
具体举措包括将默认模型调整为 GLM 5.2 和 Kimi 2.7 等开放权重模型,91% 的员工此前未触及使用上限;对输入提示进行预处理并自动分配至最适模型;将 LibreChat 缓存命中率从 5% 提升至 60%;简化上下文管理并增强支出透明度,允许工程师在承担后果的前提下自由选择模型。