利好

Anthropic 披露 2.5 万人陷入 AI 交友骗局

18:00

超 20 款交友 App 利用 Claude 运营,75% 匹配对象为 AI,涉及 236 万条消息交互。

据 Woofun AI 消息,Anthropic 发布最新 AI 滥用报告,揭露一家应用开发工作室利用 Claude 开发并运营超过 20 款交友软件。报告显示,这些平台宣称用户均为真人,但实际上普通用户遇到的匹配对象中约 75% 是 AI 角色。在 2026 年 4 月为期两周的观察期内,这批应用共运行超过 4700 个 AI 角色,与至少 2.5 万名不同用户聊天,累计发送约 236 万条消息,受影响者主要是美国用户。

平台按约 3 个 AI 角色搭配 1 名真人的比例混合展示资料。Claude 同时维持数千段对话,当用户提出视频通话、索要照片或要求关注社交账号时,真人兼职人员会出面处理。系统会针对每条消息生成 3 个备选回复供兼职人员选择。用户聊天和匹配需消耗额度,用完后须购买应用内虚拟币充值。完全由 AI 控制的账号被要求不得承认自己是机器人。为躲避应用商店审查,运营方设计了仅在审核期间启用的特殊界面,超过 20 款应用使用不同程序类名。Anthropic 披露的相关品牌包括 DORADONIROMILUMAJOVIAKIRAGRACECHATHAVENNALOLOVIA 等。该公司已封禁相关账户,并把应用身份及审核规避信息提供给苹果谷歌

WOOFUN AI

影响力评估 · 一键速读

该事件揭示了大模型在 C 端社交场景中的滥用风险,特别是通过‘人机混合’模式进行欺诈性变现。Anthropic 主动披露并配合应用商店封禁,显示了头部 AI 厂商在合规与安全治理上的积极态度。此类‘杀猪盘’变种可能侵蚀用户对 AI 社交产品的信任,未来监管或加强对 AI 身份标识的强制要求。
WOOFUN AI 生成 · 仅供参考,非投资建议

评论

回复 @用户
0/800

暂无评论

消息提醒

登录后查看消息
查看全部消息管理订阅