AI 日记变罪证：佛罗里达女子因 Claude 对话被捕

据 Woofun AI 消息，卡莉·米歇尔·赫勒因在人工智能平台 的对话记录中留下暴力言论，被警方正式逮捕。这一事件标志着 的安全监控机制直接触发了执法行动，将原本被视为私密数字足迹的 AI 交互内容转化为刑事证据。赫勒目前被控以书面形式发出暴力威胁，案件迅速从技术伦理讨论转入司法程序，凸显了生成式 AI 服务在内容审核与法律合规之间的紧张关系。警方依据平台提供的线索锁定嫌疑人，证实了 AI 公司主动介入潜在犯罪预警的能力与决心。

案件细节显示，赫勒来自博尼塔斯普林斯，其被捕源于 9 月 26 日她在 Claude 中写下的内容，其中明确提及计划'枪击'李县警长办公室。调查人员深入挖掘其数字记录，发现她在对话中声称将在次日获得一把新枪，这一具体且紧迫的威胁描述成为关键定罪依据。Anthropic 的系统自动监控关键词及威胁性内容，由于言论严重性，相关数据被提交给人工审核团队，进而通报执法部门。警方确认身份后前往其住所将其拘留。

Woofun AI 整理数据显示，Anthropic 的用户条款明确规定，公司有权'自行决定'将用户输入、输出或行为通报给执法部门。自 2026 年 9 月 10 日起生效的隐私政策进一步允许公司在合理认为有必要避免严重危害时与警方共享数据。即便用户选择退出模型训练数据利用，Anthropic 仍可在三个月内（而非五年）使用这些数据，且被标记需安全审核的对话仍用于提升有害内容检测能力，这意味着用户的聊天内容无法实现绝对私密，甚至可能被用作检测系统的训练材料。

赫勒并非首个遭遇此类情况的用户。《旧金山标准报》在 9 月报道，一名用户声称购买 AR-15 步枪并将 Anthropic 首席执行官达里奥·阿莫代伊列为攻击目标，随后被平台通报警方。该用户向媒体表示这仅是开玩笑，且在报道发表时未被捕或起诉。Anthropic 员工起初未意识到安全风险，并以公司政策为由拒绝向警方出示消息。对此，Anthropic 发言人称该事件'体现了我们安全防护机制的正常运作'，但拒绝对是否会对针对其员工的威胁采取不同处理方式予以回应。

这一案例揭示了内部员工判断与公司自动化政策之间的潜在冲突，以及平台在处理针对高管威胁时的透明度缺失。

行业背景中， 亦面临类似争议。在 2025 年 2 月不列颠哥伦比亚省坦布勒里奇发生导致 8 人死亡的校园枪击案后，OpenAI 表示曾在 2025 年 6 月考虑向加拿大警方发出警报，但最终认定账户未显示即将发生严重人身伤害的切实风险。OpenAI 在 2025 年 8 月发布的政策规定，针对他人的威胁将被转交人工审核人员，由他们决定是否通报执法部门。赫勒的审判日期定在 11 月，此案结果或将为 AI 平台在预防暴力犯罪中的法律责任设定重要先例，迫使行业重新审视隐私承诺与公共安全之间的平衡点。