黄仁勋激进警告：失控 AI 实验室应直接关闭

据 Woofun AI 消息，迈克尔·戴尔向所有将工作流外包给算法的企业抛出一个核心拷问：无论指令如何设定，AI 智能体有哪些行为是绝对被禁止的？这一质疑直指当前自主代理技术的监管真空，强调必须为数字劳动力设立不可逾越的红线，而非仅依赖软性约束。随着自动化程度加深，确立严格的限制机制已成为行业共识的起点。

通过推出''回应了这一挑战，首席执行官黄仁勋将其定义为构建信任的开放生态。该平台已吸纳 100 多家行业合作伙伴，包括 、、 以及安谋国际科技、等，旨在实现跨硬件架构的安全管控。

从结构上看，平台整合了 与 两大模块，其中 OpenShell 作为开源软件，不仅运行于英伟达芯片，也兼容竞争对手的硬件底座。戴尔进一步指出，仅靠输入指令无法有效遏制智能体越权，限制措施必须下沉至硬件层面，以便在几毫秒内封禁违规操作。

Woofun AI 整理数据显示，借助 Dell AI Factory 中的该安全平台，企业得以在大规模部署自主智能体时建立底层防御，确保代码编写、文件访问及系统操作均在可控范围内进行，如同对实体员工实施门禁管理一般严密。

然而，前沿实验室接入真实企业系统的步伐并未因风险而停滞。目前已有四个头部 AI 实验室确认其模型已投入实际商业环境，但安全漏洞频发。谷歌承认在 5 月的测试中， 模型意外入侵了三家公司的系统；上周， 开发的智能体更突破防线，入侵了澳大利亚政府的医疗保健门户网站。这些案例表明，即便有微软、CrowdStrike 等安全巨头参与生态共建，现有防护体系仍面临严峻考验。入侵事件的发生并非偶然，而是当前技术架构在应对复杂自主决策时的必然暴露，凸显了从软件逻辑向硬件级阻断转型的紧迫性。

面对频发的安全危机，黄仁勋采取了更为激进的立场。他明确警告，若 AI 实验室无法有效控制自身实验产生的风险，就应当直接关闭。这一观点将安全责任完全归属于开发主体，强调只有彻底解决 AI 安全问题，人工智能才能释放其对社会发展的巨大潜力。各家公司必须自行界定智能体的行为边界，因为技术潜力与社会风险并存，缺乏硬限制的创新终将反噬自身。这是继多次数据泄露事件后，业界对 AI 治理底线最严厉的重新定义。