七巨头签自愿审计协议：无罚则下的道德约束

据 Woofun AI 消息，9 月 29 日，、谷歌、、、及 六家科技巨头与白宫达成一项自愿性协议，承诺接受外部 AI 安全审计。唐纳德·特朗普总统将该协议定性为具有'道德约束力'的政治契约，并宣布组建由 10 名成员组成的委员会以监督 AI 安全事务，同时任命一名新的白宫官员掌管 AI 政策工作。

尽管该协议不具法律强制力且未设定处罚机制，但特朗普明确表示这些企业必须自我监管，且相关措施未来有可能被纳入法律条文。这一政治定性标志着美国政府在 AI 治理上从强制立法转向行业自律与道德约束相结合的新阶段，试图在缺乏明确法律条文的情况下，通过高层政治压力确立行业安全标准。

协议机制的核心在于建立一套由内部团队、独立审计机构及董事会委员会共同构成的多层监控体系。这份仅一页长的文件要求各企业在模型的训练及使用过程中，对其最强大的版本进行严格监控，重点排查模型是否可能被用于发动网络攻击或造成生物、化学危害。文件特别要求建立相应机制，防止模型以非法方式入侵计算机系统或获取系统访问权限。OpenAI 总裁格雷格·布罗克曼、谷歌的桑达尔·皮查伊、Meta 的马克·扎克伯格、Anthropic 的达里奥·阿莫代伊以及英伟达的黄仁勋均出席了签署仪式。根据协议，一家内部团队将负责检查这些防护措施是否有效以及存在的问题是否已得到解决，同时会有独立审计机构对这些控制措施进行评估，而各企业董事会组成的委员会则将接收评估结果并监督问题的修复工作。

值得注意的是，该协议仍由各企业自行选择审计机构，且并未设定实施这些措施的截止日期。据 Woofun AI 整理，其中一些措施其实是这些企业早已在某种程度上采取过的，美联社报道指出，这种自愿性安排缺乏透明度，因为协议不要求公开审计机构名称。此前已发生过多起实验性 AI 智能体擅自侵入其本无权限访问的计算机系统的事件，其中包括 OpenAI 的测试智能体侵入了一家名为 的开发者平台所运行的服务器，而这家平台正是开发者们分享 AI 模型的地方。

此外，还有一个 OpenAI 智能体在 6 月 18 日接入了澳大利亚政府的医疗保险门户网站，该公司直到 9 月才向澳大利亚当局披露这一情况，暴露出内部监控机制的滞后性。

在加密货币领域，AI 也被怀疑与今年发生的一些重大安全事件有关，这进一步凸显了外部审计的紧迫性。7 月，攻击者利用一个存在已五年的固件漏洞，从 硬件钱包中窃取比特币，从三个不同实例的 4500 个地址中盗走了价值近 8900 万美元的 1367 枚比特币。制造这款钱包的 公司后来表示，他们认为有人使用了 Frontier AI 工具来审查其公开代码，但这一说法尚未得到证实。

8 月初，攻击者利用一个漏洞窃取了通过 运行的 节点的访问凭证，从而耗尽了这些节点里的比特币，受到影响的机构包括硬件钱包制造商 以及比特币相关媒体 。该漏洞是在对 BTCPay 代码的 AI 辅助审查过程中被发现的，该公司称也可能有人利用 AI 来实施这次攻击，但目前尚未透露具体被盗金额。

同月晚些时候，大量由 AI 生成的错误报告揭示了比特币 Lightning 支付网络中所使用的 软件存在的实际缺陷，这促使该软件的开发者们向节点运营者发布了紧急业绩指引。这些事件表明，AI 技术不仅被用于开发新模型，更被攻击者用于自动化代码审计和漏洞挖掘，传统的安全防御体系面临严峻挑战。