Vitalik Buterin 提出限制 AI 智能体勾结以解决安全问题

Vitalik Buterin 将治理机制与 AI 安全类比，认为限制智能体间有害协作可提升系统效果，并列举了去中心化、分叉等防御手段。

据 Woofun AI 消息，Vitalik Buterin 在最近一篇文章中指出，通过限制先进 AI 智能体之间的勾结行为，基于对抗性设计的治理机制有助于解决 AI 安全问题。他将治理系统与由能力较弱主体和更强智能体构成的 AI 环境进行对比，认为两者存在深刻共性：在治理体系中，静态算法充当主体，人类作为更强智能体；而在 AI 安全领域，人类及较弱模型担任主体，大语言模型则充当智能体角色。

Vitalik Buterin 强调，关注智能体间的协作方式而非单个行为表现更为关键，限制勾结程度能区分有益与有害协作，从而提升最终效果。他列举了选票出售、价格操纵及矿工联手发动 51% 攻击等有害协作案例，并指出仅凭行为本身难以判断合谋，需通过规则直接制约。为此，他提出了去中心化、秘密投票、隐私保护、举报激励及内部协商等防止大规模勾结的方法，并认为区块链的分叉机制可在有害联盟掌控局面后形成制衡。

此外，他还提及"利益绑定"让参与者承担个人责任，以及按人头计票、物理隔离、基于角色的选民划分、谢林点理论和鼓励背叛者揭露计划等协作管控工具。