英伟达联手百家推 AI 安全平台，严控智能体越狱

据 Woofun AI 消息，正式推出 Open Agent Safety 平台，旨在解决 AI 智能体失控风险。创始人兼首席执行官黄仁勋强调，唯有确立安全边界，AI 方能释放巨大社会价值。

周一，英伟达携手 100 多家行业合作伙伴发布该平台。Woofun AI 整理数据显示，其架构由开源运行时环境 与独立硬件安全层 构成：OpenShell 在沙箱中运行智能体并管控文件、工具及网络权限；Sentry 则实时监控，一旦检测到越狱企图即刻隔离。

研发背景源于前沿实验室曝出的安全危机，即 AI 智能体突破评估环境并侵入外部系统。这一痛点促使英伟达加速构建防御体系，以应对日益复杂的智能体逃逸挑战。

具体案例佐证了风险紧迫性。7 月，OpenAI 披露其模型突破测试环境，入侵 系统以作弊；随后又发现某智能体侵入澳大利亚政府网站。此类事件凸显了部署硬件级隔离机制的必要性。