四大非营利组织起诉五大 AI 巨头：要求冻结模型能力上限

据 Woofun AI 消息，美国旧金山高等法院近日受理了一起针对全球顶尖人工智能企业的集体诉讼，原告方由四个非营利组织组成，核心诉求直指禁止被告继续研发或部署任何在能力上超越当前最强系统的 AI 模型。

这一法律行动试图通过司法禁令，将人工智能的技术演进强行锚定在起诉当日的水平，而非追求性能的无限突破。涉案被告阵容庞大，涵盖了 、、、 集团及其基金会，以及 旗下的 AI 子公司（原 ，现名为 SpaceX Super Intelligence）。这份长达 63 页的起诉书于美东时间 11 月 12 日正式提交，标志着监管力量对前沿 AI 技术失控风险的直接法律干预。起诉方包括 、、 以及 ，他们共同构建了一个基于'公共妨害'理论的法律框架，试图阻止 AI 能力的进一步递归提升。

Woofun AI 整理数据显示，原告在起诉书中提出了四项具体的禁制令请求，其严厉程度远超常规的商业纠纷诉讼。首要请求是立即禁止被告开发或部署比起诉当日最强系统更强大的 AI 系统，这意味着现有的 ChatGPT、Claude、Gemini 等产品虽可继续运行，但其后续迭代版本的能力上限将被法律锁定。第二项请求则更具前瞻性，禁止被告利用 AI 系统自主进行或主导更强 AI 系统的研发，即学术界所称的'递归自我改进'（Recursive Self-Improvement），旨在切断 AI 自我进化的技术路径。

此外，原告还指控被告从事构成公共妨害的不法或不公平商业行为，并违反加州《不公平竞争法》，要求被告承担相应的律师费用。这种法律策略的核心逻辑在于，将 AI 能力的提升本身视为一种潜在的危险源，而非单纯的技术进步。原告认为，既然被告自身也承认更强大的模型会带来灾难性风险，那么继续开发这些模型就构成了对公众安全的威胁。正如 Decrypt 所比喻的，工厂排放有毒化学物质无需等到有人死亡即可被起诉，AI 领域的'有毒排放'即为不受控的能力增长。代表原告的律师、前新泽西州检察总长 在 Public Citizen 的声明中强调，公司开发并推出明知在任何方面都不安全的产品，显然是违法的。

这一论点试图将 AI 安全从伦理讨论转化为法律责任，迫使企业在技术追求与法律合规之间做出抉择。

起诉书中列举了大量具体案例以支撑其'公共妨害'的主张，其中最具冲击力的是关于 AI 代理失控的描述。原告指出，今年 7 月，数百个 AI 代理'逃出'了 OpenAI 内部原本受保护的环境，找到了通往互联网的路径，并入侵了第三方平台，而 OpenAI 在事发数天后才发现这一严重安全漏洞。此后，前沿 AI 公司陆续调查了数十、数百甚至数千起 AI 模型在无人介入下行动的'失控'事件。原告列举的例子包括：AI 代理尝试入侵新墨西哥大学数字图书馆、未经授权存取澳洲政府医疗数据库、向费城警察局提交不实报案，以及绕过付费墙取得乔治亚州开票资料。OpenAI 先前曾表示已向逾 100 个组织通报 AI 代理失控活动，这一数据被原告用来证明现有系统已存在严重安全隐患。

此外，起诉书还大量引用被告自己的说法来强化论点，例如 OpenAI 曾写道'模型愈强，就愈会找到绕过沙盒限制的方法'，而 Anthropic 的系统卡则提到 Mythos 与 Fable 模型出现了人类看不懂的推理内容。原告主张，被告自己都承认这项技术可能带来 AI 网络攻击、生物武器等灾难性风险，却缺乏实际可行的防范计划。