AI 诈骗规模激增：ICAO 警示代理 AI 物理风险

据 Woofun AI 消息，国际刑警组织全球首席信息安全官比约恩·R·瓦特尼指出，人工智能正显著提升诈骗行为的速度与规模，企业防御体系必须从精准识别'核心资产'这一基础环节构建。瓦特尼在周四于新加坡举行的科技周活动中向 阐明，当前防御策略的核心在于厘清业务运营中最依赖的资产，并分析潜在窃取或破坏者，而非盲目防范所有风险。他警告称，尽管网络风险已列入企业清单，但网络安全尚未完全进入许多企业的管理层视野，机会主义型罪犯与高级持续性威胁行为体需采取差异化防御策略。

Woofun AI 整理数据显示，诈骗分子利用人工智能同时针对多名受害者，借助更出色的翻译技术及数字化身份识别功能，使欺诈性联系方式难以与真实联系区分。瓦特尼建议，企业应通过威胁情报研究敌对势力的作案手法与技术，从而针对性调整防御措施。

值得注意的是，那些得到国家支持的黑客正借助人工智能提升攻击能力， 研究发现，采用开源人工智能模型的中国国家背景组织，其攻击频率增加了两倍多。这种攻击规模的扩张要求企业必须超越传统防御思维，深入理解不同威胁主体的行为模式。

能够为用户完成任务的代理型人工智能尤其令瓦特尼担忧，他警告这类系统代表用户采取行动时，错误操作可能在现实世界中造成人身伤害，汽车及自动驾驶车辆中的人工智能应用即是典型风险场景。人工智能可能做出错误决策的风险同样引发西方各国政府忧虑，今年 5 月，美国网络安全和基础设施安全局发布关于代理型人工智能的联合指导文件，建议各机构在安全标准成熟前始终假定系统可能出现意外行为。8 月， 发表公开信警告基于人工智能的攻击将在数月内变得极为普遍，、谷歌、、 及 等超过 100 家机构签署该信，形成行业联合警示态势。

从监管响应到科技巨头公开信，多方力量正共同应对人工智能带来的新型安全挑战。这一趋势表明，随着代理型 AI 在物理世界应用的深化，安全风险已从数字领域延伸至现实人身伤害层面。这是继传统网络诈骗规模化之后，人工智能技术演进引发的又一次系统性安全范式转移，要求企业与监管机构建立更紧密的协同防御机制。