1.6 万次请求背后的 AI 推理机制窃取战
核心要点
OpenAI指控月之暗面人员通过对抗性蒸馏窃取其模型隐藏推理机制,7月拦截超1.6万次请求。此举引发行业对AI模型安全及数据版权的广泛担忧。
据 Woofun AI 消息, 正式定性了一起针对其人工智能模型核心逻辑的协同攻击行动,并将矛头直指中国初创企业月之暗面及其旗下产品 的相关人员。此次事件的核心并非传统的数据泄露,而是旨在复制 AI 隐藏推理机制的系统性尝试。OpenAI 宣称已成功阻断这一企图,并指出攻击者试图通过操纵模型交互,大规模复现受保护的内部思考过程,从而实现对先进模型能力的非法迁移。
这一指控不仅揭示了 AI 竞赛中日益隐蔽的技术窃取手段,更将月之暗面推向了全球人工智能安全争议的风口浪尖,标志着行业竞争已从单纯的性能比拼延伸至底层机制防御的深水区。
攻击的时间线与数据规模呈现出高度的组织化特征。OpenAI 披露,此类异常活动始于 7 月 1 日,并在随后两周内急剧升温。仅在 7 月 24 日和 25 日两天内,系统就记录到来自 4000 多名用户的 16000 次数据提取请求,而这仅仅是整个攻击网络中 15000 多名用户所发起请求的一部分。到 7 月 28 日,OpenAI 宣布已彻底中断这些活动。从技术路径上看,现代 AI 模型在生成最终答案前,会在内部的临时存储空间中进行逐步分析,即所谓的'推理'过程。OpenAI 对该存储空间实施了加密处理,以防止外部窥探。
然而,攻击者并未尝试破解加密措施或侵入数据库,而是采取了一种更为巧妙的策略:他们通过操纵模型交互,让受保护的推理过程以攻击者可见的形式被复现。具体而言,攻击者先从一次对话中复制出加密后的推理内容,随后让模型在另一次对话中对其进行解码。
值得注意的是,Woofun AI 整理数据显示,OpenAI 在事后封堵了一种关键途径,防止那些已获取其他用户加密推理内容的人重新播放这些内容并获取明文信息。尽管 OpenAI 声明未直接将此次攻击与月之暗面的最新模型 挂钩,但其明确将核心群体归因于 Kimi 的开发者,暗示了两者之间可能存在的技术关联。
这种被称为'对抗性蒸馏'的行为,其动机在于利用更强大模型的输出来训练新模型,从而无需大量训练即可提升较小模型的性能。OpenAI 将其定义为系统性、未经授权地利用某模型输出或推理过程来改进另一模型的行为。
这一事件并非孤立存在,而是 2025 年以来一系列 AI 安全丑闻的延续。早在 2025 年 1 月,当华盛顿方面评估国家安全风险时,OpenAI 便表示正在调查 可能对其模型进行蒸馏的迹象。2 月, 指控中国实验室使用约 24000 个虚假账户与 模型进行超过 1600 万次交互。4 月,白宫指责中国开展'大规模'AI 模型窃取活动。一周后,马斯克在法庭上承认 利用 OpenAI 模型蒸馏技术训练 。6 月,Anthropic 要求美国国会处罚大规模数据提取行为。8 月,研究人员发现 OpenAI、Anthropic 和谷歌曾共享同一把覆盖全平台的加密密钥保护推理过程,导致攻击者可迫使模型以明文输出隐藏思考内容。
尽管三家公司随后部署了服务器端补丁,但此前共享的会话日志仍面临被解码的风险。由于 AI 模型输出本身不具备版权属性,各公司只能依靠服务条款和防护措施来遏制此类竞争行为。

评论
暂无评论