马斯克深伪直播骗币:Coinbase AI 拦截 470 万美元
核心要点
Coinbase披露利用AI深伪技术冒充马斯克进行加密赠币诈骗,超 50 万观众围观。其AI防诈系统无人工介入拦截 91%资金,总额达 470 万美元,凸显生成式AI降低诈骗门槛下的风控新挑战。
据 Woofun AI 消息, 于 11 月 17 日通过官方博客披露一起利用人工智能深度伪造技术实施的精密加密资产诈骗案件。诈骗团伙伪造了特斯拉 CEO 埃隆·马斯克(Elon Musk)的形象,在 YouTube 平台开设了一场名为特斯拉'飞行车'展示活动的虚假直播。该直播画面中嵌入了特定的钱包地址与二维码,并向观看者承诺,任何转入该地址的加密货币都将被加倍返还。这场精心策划的骗局吸引了超过 50 万人观看,并在短短两小时内诱使数百名用户尝试转出数百万美元资金。面对这一突发威胁,Coinbase 的 AI 防诈系统在完全无人工干预的情况下,成功识别并拦截了其中约 91% 的交易,总计阻止了价值 470 万美元的资产流失。
这一事件不仅展示了深度伪造技术在金融欺诈领域的破坏力,也验证了自动化风控系统在应对新型社会工程学攻击时的关键作用。
值得注意的是,Coinbase 在事后分析中特别强调了一个反直觉的事实:在这起案件中,'没有人被黑客攻击'。这意味着没有用户的账户遭到入侵,没有密码发生泄露,也没有任何登录凭证通过钓鱼手段被盗取。相反,这数百名受害者,其中不乏长期使用的老用户,是在完全自主的状态下,亲自登录账户并手动点击确认按钮,将资金转给了陌生人。传统的防诈系统通常设计用于捕捉'非本人授权'的异常交易,例如异地登录或大额转账至陌生地址,但在此次事件中,用户已经完成了身份验证并表达了明确的转账意图。由于用户真心相信这是一个千载难逢的投资机会,系统仅凭交易本身的数据特征,难以区分这是用户的理性判断失误还是遭受了欺骗。
这种基于'自愿'的欺诈行为,对依赖行为异常检测的传统风控模型构成了巨大挑战,因为从技术层面看,这些交易符合所有正常操作的规范。
为了应对这种高隐蔽性的诈骗,Coinbase 部署了一套分阶段的 AI 防诈代理系统,在用户做出最终决策的关键时刻介入。第一阶段是实时侦测,机器学习模型会对高风险转账进行即时评分,评估特征包括赠币模式、品牌冒用迹象以及新建立的钱包地址等。一旦转账被标记为高风险,第二阶段由专门处理诈骗的 AI 代理接手,与用户进行简短的交互式对话。该代理会明确指出当前遭遇的是何种类型的诈骗,解释赠币骗局的运作机制,并提出几个旨在让骗子故事逻辑崩塌的问题。第三阶段则是在用户发送每一则回复前,系统会计算一个'信心分数',以此判断是否需要施加额外的阻力来阻止交易。
据 Woofun AI 整理,尽管该 AI 代理在训练数据中从未见过结合新品发布直播与深度伪造赠币的此类特定骗局,但它成功识别出了骗局的通用轮廓:承诺资金倍增、制造几小时内结束的紧迫感,以及强调转账不可撤回的特性。从第一笔被标记的转账到最后一笔,该系统全程自动化处理,展现了强大的泛化能力。
Coinbase 指出,深度伪造技术的普及极大地降低了诈骗的门槛和成本。过去,策划一场类似的骗局需要组建团队、租赁摄影棚并进行数周的准备工作;而现在,诈骗者只需要一个直播时段和一个 AI 模型即可快速实施。
这种低成本、快速迭代的特点使得诈骗活动在被封禁后能迅速更换名义重新上线。为此,Coinbase 表示将在风险控制部门大量投入 AI 技术,包括利用 AI 进行研究以更新侦测模型,让 AI 代理审查各类高风险转账,以及利用 AI 标记新案例,从而将模型从每次攻击中学习的时间从几周缩短至几小时。公司同时提醒用户,没有任何正规机构会要求先转账才能获取加倍回报,切勿向视频、直播或消息中出现的地址或二维码转账。当转账被系统拦截时,应先暂停操作查看原因,并通过官方渠道自行核实。近期,AI 被用于针对加密用户的案例频发,Google 威胁情报小组本周也揭露了疑似朝鲜黑客使用 AI 生成的假猎头入侵加密货币公司的事件,这表明 AI 驱动的攻击正成为行业面临的主要威胁之一。

评论
暂无评论