利好
AI 模型误判平民为军事目标风险凸显
11-17
据 Woofun AI 消息,旧金山独立评估机构 于 11 月 17 日发布报告,指出在模拟场景中,部分先进人工智能模型频繁将平民、救护车及投降士兵误判为军事目标。测试涵盖八家公司模型,其中 表现最差, 虽相对较好但也出现误判,案例甚至包括位于伊朗的学校。研究认为此类工具存在被用于致命打击行动的风险,且目前缺乏有效护栏阻止其被用于自主武器系统。报告建议相关实验室引入新保障措施并开展对齐训练以应对严重滥用风险。
WOOFUN AI
影响力评估 · 一键速读
先进 AI 模型在目标识别上的高频误判暴露了自主武器系统的潜在滥用风险。Anthropic 等厂商若未能及时引入新护栏与对齐训练,其技术可能被误用于致命打击,导致严重的人道主义后果及合规危机。
WOOFUN AI 生成 · 仅供参考,非投资建议

评论
暂无评论