推理窃取率暴跌至 0.2%,OpenAI 点名 DeepSeek
核心要点
OpenAI公开GPT-6.2 Astra防蒸馏成果,推理过程窃取成功率从 54%降至 0.2%。文章揭露针对DeepSeek与月之暗面的盗用行动,并表态支持美国芯片管制法案,标志着大模型防护新纪元。
据 Woofun AI 消息,OpenAI 于 11 月 20 日发布研究报告,重点展示其新版 模型在防御未经授权"蒸馏"攻击方面的显著成效。经过强化防护后,攻击者试图从该模型中窃取内部推理过程的成功率,已从旧版 的 54% 大幅降至 0.2%,这标志着大型语言模型在保护核心智财与网络安全能力转移方面迈入新阶段。
蒸馏作为一种常见的模型训练技术,允许一个模型(学生)学习另一个模型(老师)产出的答案、推理逻辑或判断结果。OpenAI 指出,未经授权的蒸馏不仅涉及知识产权权争议,更潜藏严重的网络安全风险:学生模型可能复制老师模型的强大能力,却未继承其安全限制。以网络安全任务为例,若防守方寻找软件漏洞的能力被复制到防护较弱的模型上,原本应被拒绝的恶意请求可能被新模型执行。
为验证此风险,OpenAI 进行了一组内部实验,使用同一个预训练模型作为学生,分别利用 Astra 等级模型处理写程式与防御型网络安全任务的纪录进行训练。一组仅接触最终回答、推理摘要和工具操作等公开内容,另一组则额外接触完整推理过程。实验结果显示,经过监督式微调后,接触完整推理过程的学生模型在网络安全测试中表现更佳;即便在后续加入强化学习阶段,该学生模型在最大运算量下仍保持领先,仅在运算量较低时,仅看摘要的学生模型表现较好。这证实保护推理过程能有效限制网络安全能力的非法转移,即使原始任务完全符合使用规范。
在具体防护成效方面,Woofun AI 整理数据显示,OpenAI 通过自动化的 AI 红队测试评估防护效果,攻击方会根据系统反应动态调整手法,并汇整六个攻击模型的测试结果。数据表明,试图偷出模型前一次回答时的推理过程,成功率从 GPT-6 Astra 防护下的 54.0% 降至 GPT-6.2 Astra 的 0.2%;而偷出当下这次回答的推理过程,成功率则从 22.9% 降至 0.9%。
这些防护措施分为两层:单次请求层面,模型被训练以辨认并拒绝套话,输入与输出均设有分类器把关,工具呼叫参数亦经检查以防推理过程泄漏;GPT-6.2 Astra 与 Sol 模型更将推理内容绑定于产生它的对话,若前置讯息被改写,后续推理即失效,且较旧模型无法读取新模型的推理内容。另一层为整批行动追查,系统侦测到有组织盗用时,会调查背后帐号网络并整批处置,同时将入侵指标分享给其他模型业者。OpenAI 表示,部分新防护亦将套用于 GPT-6 Astra。
此外,OpenAI 透露今年平台上出现多起有组织盗用行动,每周封锁帐号数从数千至数万不等,夏季封锁速度明显加快。
OpenAI 将蒸馏问题提升至国安层级,指出其于 2 月曾向国会简报 试图蒸馏美国前沿模型;9 月公开瓦解一起盗取推理过程的行动,并将核心部分归咎于开发 的月之暗面相关人士,承诺后续将公布更多近期案例。链新闻 10 月底亦报导过 DeepSeek 与月之暗面传靠蒸馏 OpenAI 模型训练新模型。基于此,OpenAI 表态支持让美国政府拥有更多工具制裁非法撷取美国 AI 能力的外国行为者,并已向国会表态支持《芯片安全法》(Chip Security Act)、AI OVERWATCH Act 和 MATCH Act。其论点在于,出口管制限制对手取得训练用硬件,而防蒸馏技术则使对手更难从现成模型中获取同等能力。

评论
暂无评论