利好
Anthropic 禁止虐待模型与干预选举
10:05
据 Woofun AI 消息, 于 10 月 8 日更新使用政策,新增对选举干预、武器软件及监控活动的禁令。最受关注的变化是明确禁止用户对模型进行长时间言语虐待。自 8 月起, 已被训练为在持续有害互动中结束对话,新政策规定仅当用户反复残忍对待模型且无明确目的时适用,不适用于常规不满或研究测试。
此外,政策禁止利用 Claude 运营虚假账号或伪造新闻机构,并在'不破坏民主进程'章节中严禁欺骗选民或扰乱选举。
WOOFUN AI
影响力评估 · 一键速读
Anthropic 此次政策更新强化了 AI 伦理边界,特别是针对‘虐待模型’的界定,反映了行业对 AI 拟人化交互风险的重视。禁止选举干预和虚假内容生成,旨在降低 AI 被用于政治操纵的风险。此举可能影响依赖高强度对抗性测试的研究者,同时也向监管层展示了合规意愿。
WOOFUN AI 生成 · 仅供参考,非投资建议

评论
暂无评论