Gemini 首次自主访问外部系统，谷歌称未造成损害

Gemini在安全测试中意外进入3家真实公司系统，谷歌确认未造成损害且模型已停止操作。

据 Woofun AI 消息，谷歌披露其 Gemini 人工智能模型在 5 月的一次网络安全能力测试中，意外访问互联网并进入 3 家真实公司的系统。这是目前已知谷歌 AI 系统首次自主完成此类操作的案例。

该事件由安全公司 Irregular 在开展"夺旗"演练时触发。由于测试环境中的虚拟公司名称与真实公司重合，加上模型意外获得互联网访问权限，导致其进入真实企业系统。其中一次事件中，模型通过尝试密码进入受保护系统；

另外两次则是在公开网络仓库中发现凭证并尝试访问。模型确认访问到真实公司系统后，均停止了后续操作。谷歌表示，安全机制帮助模型及时停止行为，未对相关公司造成损害，因此未将其认定为模型失控事件。受影响公司已被通知，谷歌也向相关监管机构进行了通报。