利好
Anthropic 蒸馏攻击提取量骤降 90% 至 99%
08:07
据 Woofun AI 消息, 披露初步数据显示,新部署的防护措施已使蒸馏攻击者从平台提取的 推理 Token 数量减少约 90% 至 99%。针对攻击者利用虚假账号网络批量获取模型回复以复制能力的行为,Anthropic 实施了限制推理记录跨对话、模型及账号转移,并部署两阶段分类器识别拦截提取请求。目前分类器误报率低于 0.1%,已封禁数万个相关账号,通常在攻击开始后两小时内完成处置。
此外,自 9 月 24 日起,Anthropic 恢复对包括蒸馏在内的特定类别中被安全防护拦截的请求进行收费。公司指出,部分开发者需更新集成方式,且分类器可能存在误拦正常请求的情况。Anthropic 表示目前尚未遭遇高度复杂且持续性的绕过尝试,但防护成效持续时间尚不明确,仍需持续迭代防御措施。
WOOFUN AI
影响力评估 · 一键速读
推理 Token 是训练高性能模型的核心数据资产,Anthropic 通过技术手段将提取量压降至极低水平,显著提高了模型能力被恶意复制的成本与难度。恢复对拦截请求收费不仅增加了攻击者的经济负担,也向市场传递了保护知识产权的强硬信号。此举或促使其他 AI 厂商跟进类似防御策略,推动行业建立更完善的模型安全标准。
WOOFUN AI 生成 · 仅供参考,非投资建议

评论
暂无评论