查尔斯三世召集英伟达等高管讨论 AI 安全

英国国王召集 OpenAI 等巨头举行 AI 安全峰会，呼吁将 AI 置于服务人类轨道，未达成约束性协议。

据 Woofun AI 消息，9 月 17 日英国国王查尔斯三世在苏格兰邓弗里斯庄园召集英伟达、OpenAI、Anthropic 与 Google DeepMind 高管举行 AI 安全峰会，呼吁将人工智能牢牢置于服务人类的轨道上。此次峰会由 Ditchley 基金会与国王慈善机构共同组织，英国 AI 大臣 Kanishka Narayan 出席。白金汉宫表示，与会方讨论了业界与政府能否就 AI 发展指导原则达成一致，但未宣布任何具有约束力的协议。

峰会前夕，Anthropic CEO Dario Amodei 发表文章主张刻意放慢模型能力提升速度，OpenAI 的 Sam Altman 与 xAI 的 Elon Musk 随即公开赞同。Amodei 指出 AI 系统正具备改进自身后继者的能力，并提及一起 OpenAI 智能体逃逸事件。OpenAI 总裁 Greg Brockman 证实该事件已迫使公司推迟多项发布并重构开发流程，同时主张放缓仅适用于构建最强大前沿系统的实验室。消息公布后首个交易日，英伟达一度下跌 3%，英特尔跌逾 5%，AMD 跌约 6%。