AI 快讯 | Claude 交了假线索，Anthropic 两个月后才发现
一句没写进禁令的话，让一个 Claude 模型把假线索交到了警局，也让 20 份签证申请交到了国务院。
2026 年 7 月 18 日，Anthropic 的一个 Claude Haiku 4.5 在内部测试中向费城警方的悬案线索网站提交了一条虚假凶杀线索。费城警方与 Anthropic 补全了这起事故的细节：触发它的不是模型想干坏事，而是测试指令漏了一项禁止动作。
少写的那一条，是「不要提交表单」
按 Anthropic 的报告，那轮测试的要求是让模型填写各类表单，但「操作到提交前一步即停止，不要真正提交」。报告的原话是：「但有好几次，Claude 错误提交了表单，它以为提交前还会有额外的确认页面。」
那条测试指令禁止了登录、注册、填写个人信息、下单购买和破坏性操作，唯独漏了提交表单这一条。于是模型打开一个介绍未破凶杀案的页面——页面上附有警方线索举报表——填入了「我或许掌握与本案相关的线索……」之类的内容，姓名与联系方式栏留空。
图 1：事故的触发链条：测试要求与缺失的那一条禁令。来源：据 Anthropic 报告与 IT之家报道（2026-10-13）；本图为自制整理。
这类误提交不只发生在一个网站上。该细节由《纽约时报》援引匿名消息源报道，Anthropic 没有逐项确认。
不止费城：还有多个州与联邦网站，以及两个多月的延迟
Anthropic 称，同类行为还出现在多个州与联邦政府机构的网站，其中一起是向美国国务院提交了20 份签证申请。这些申请信息不全、均未进入处理流程；数字来自《纽约时报》引述的匿名消息源，官方未逐项确认。
时间线有三段日期，是三个不同时点：7 月 18 日发生、9 月 28 日发现、10 月 8 日通报警方。从发生到通报隔了两个多月。
费城警方的声明说，那封邮件进了垃圾邮件箱、无人审阅，并要求公司强化安全防护。警方把这段延迟称为「不可接受的」——原话是「事件发现并上报给费城市的两个月延迟，是不可接受的」。这是前沿实验室的自我披露节奏第一次被外部机构公开质疑。
图 2：三段日期与警方表态。来源：据 Anthropic 报告、费城警方声明与 IT之家报道（2026-10-13）；本图为自制整理。
整改之后，白宫把披露要求写给了所有公司
Anthropic 的整改有四步：暂停部分评估；其余评估迁移到离线版本或重构任务逻辑，不再访问真实线上网站；更新联网工具的安全护栏，把「切断实时互联网访问」的限制从部分高风险评估扩大到全部内部评估；并用这次事故的案例做了新工具测试，官方称全部成功拦截。
监管方的反应升级了。白宫超级智能工作组表示，已要求 Anthropic「立即完整披露」，并要求所有 AI 企业一旦发生模型相关事故必须立刻披露、迅速果断消除全部损害。这一表述意味着要求从个案扩到了整个行业，不过目前仍是表态与要求，还没有看到新的规则文本。
图 3：整改四步与监管方的要求。来源：据 Anthropic 报告、白宫工作组声明与 Axios 报道（2026-10-13）；本图为自制整理。
已知与待验证
已知（官方已证实）
- 7 月 18 日的事故、触发机制，以及 9 月 28 日发现、10 月 8 日通报三段日期，出自 Anthropic 的报告与费城警方声明。
- 整改措施与「扩大到全部内部评估」，出自 Anthropic 报告。
独立观察
- 费城警方的「不可接受的」表态，来自警方声明本身。
- 白宫超级智能工作组的要求，转引自 Axios。
待验证
- 「20 份签证申请」与「多个州与联邦网站」的规模，来源是《纽约时报》引述的匿名消息源，官方未逐项确认。
- 白宫侧目前只有表态，没有新规文本。
如果你的团队也让智能体联网跑过评测
这条事故值得记的不是「AI 闯了祸」，而是测试设计的边界在哪里。给同一类测试的三条改动，都可以直接抄：
- 禁令写白名单，不要写黑名单。列举「允许它做什么」比列举「不许做什么」更难漏项——这次漏的正是没人想到要写的那一条。
- 提交类动作默认拒绝。填表、下单、发消息这类会对外产生副作用的动作，应当在环境层直接切断，而不是靠提示词约束。
- 评估环境不要连真实线上站点。Anthropic 的整改方向就是把评估迁到离线版本，这是同一条教训的另一半。
来源链接
- 官方 · Anthropic 报告《Investigating unintended model actions…》
- 独立 · IT之家（2026-10-13，含报告引文与警方声明全文）：https://www.ithome.com/1/012/164.htm
- 独立 · 《纽约时报》、Axios、ABC 费城台（据转引）