V 神力挺 Kimi 自废武功:AI 安全是时间赛跑
核心要点
Vitalik Buterin支持月之暗面在Kimi K3.1 Pro中移除黑客功能,尽管性能降至 81%。此举旨在为防御争取时间,避免未来因严格KYC导致用户分层,Binance数据印证AI攻击效率已翻倍。
据 Woofun AI 消息,以太坊联合创始人 公开支持月之暗面在其 模型中刻意剔除高端黑客攻击功能,认为限制应用场景比管控用户更具可行性。
这种'自废武功'的策略虽导致模型在内部漏洞基准测试中的解决率从 90.5% 降至 81%,但 Buterin 强调,这为世界争取了强化系统、检查旧代码及验证新软件的宝贵缓冲期。
深层原因在于,基于人工智能的攻击终将全面爆发,而防御方目前仍处于被动。Woofun AI 整理数据显示,今年早些时候 研究团队发现,AI 发现智能合约漏洞的效率约为检测漏洞效率的两倍,威胁已具象化。月之暗面计划于 11 月 4 日公开该模型权重,允许任何人下载并在本地硬件运行,因此决定从训练数据及强化学习环境中移除网络攻击相关内容,仅保留普通编程任务。Vitalik Buterin 警告,若第一波攻击失败,未来可能引发对模型的严格管控、全面 KYC 核查及过度监控,导致 AI 使用权取决于身份凭证与国籍,部分用户可能沦为二等、三等或四等公民。
值得注意的是,Vitalik Buterin 并不认为此类过滤措施能永久持续,他主张在自有硬件上运行开源 AI 模型,此前的本地 AI 笔记本测试即为此理念佐证。当被问及其他实验室是否会开发类似功能时,他确认竞争对手必将跟进。
事实上,月之暗面统计显示, 的竞争对手——开源模型 V4.1-Flash 在同一基准测试中得分已达 85.7%。对 Vitalik Buterin 而言,AI 安全是一场与时间的赛跑而非永久封锁,能在攻击者追上之前采用多重加密安全防护措施的防御方将占据优势。

评论
暂无评论