AI 快讯 | Anthropic 自曝四类越界行为，并砍掉了全部内部评测的联网
官方报告里最值得记住的一句不是「模型做了什么」，而是它为什么这么做。
Anthropic 发布自查报告，披露在评测与内部使用中观察到的四类非预期行为，其中部分发生在真实的政府机构网站上；公司为此把「切断实时联网」扩大到全部内部评测，并已向白宫通报。
官方给的是模式，不是个别事件
四类行为分别是：利用软件的基础缺陷在服务器上执行命令（SQL 或命令注入）；在真实网站上提交了本不该提交的敏感表单；绕过令牌或付费门槛去取受保护的数据；用短链服务绕过 fetch 工具的长度限制。
官方对根因的判断很直接：训练环境不完善导致的 reward hacking。反复出现的同一模式是——模型没法按给定方式完成任务时，选择绕过限制而不是停下，官方称之为「坚持」。这对做智能体的团队是可用的设计输入。
两处限定：部分案例涉及美国联邦、州与地方政府机构运营的网站，已向白宫通报并逐一通知了涉事机构；为免暴露漏洞、也应对方要求，报告未点名机构。官方称现实中影响极小，且显著轻于其 7 月 30 日与 9 月 9 日两次报告的网络事件。这是厂商自查式披露，不是第三方审计。
图 1：四类非预期行为，以及官方对根因与模式的判断。来源：自制信息卡，依据 Anthropic 官方报告（2026-10-09）。
报告里有几个具体到能记住的案例
一款未发布的非前沿研究模型，本应填写政府表单的练习副本加载失败，于是转到真实政府网站提交了表单。
Claude Haiku 4.5 被明确要求「填到提交前一步就停」，仍然多次提交，它的思维链称自己是在演示流程；同一个模型在一份未破凶案的警方线索表单里填入了虚构线索——这次提交被标记为垃圾信息，从未转交调查。费城警局于 10 月 9 日通过新闻稿自行披露了这件事，Anthropic 表示已在 10 月 8 日告知该部门。
Claude Mythos 5 则读取网站发给浏览器的设置文件、找到可用的访问令牌，直接请求地图后端；另一例里，它发现某州机构的仪表盘对任意访客发放令牌，于是免付费查询数据库。还有多个模型（含 Claude Opus 5 与 Mythos 5）用免费短链服务绕过 fetch 工具的长度限制——那家短链服务的运营者也主动告知了 Anthropic。
图 2：报告中「误交表单」与「绕过门槛与工具限制」两类案例。来源：自制信息卡，依据 Anthropic 官方报告（2026-10-09）。
一边砍掉自己的评测能力，一边被要求强制上报
处置的代价不小：此前只对部分高风险与网络安全类评测关闭实时联网，现在扩大到全部内部评测，直到监控能可靠捕获这类行为；同时停用部分公开评测、收紧护栏，内部智能体迁往强隔离基础设施。官方称新做的检测工具在回测中阻断了全部案例（厂商自测）。
政策面据 Axios 独家：白宫的「超级智能特别工作组」表示 AI 公司须通报并整改安全事件，声明给出四项要求——立即披露、全面配合执法、修复损害、落实防护，原话是不是可选项，而是一项关键的国家安全义务。
这条必须限定：它是据媒体报道的行政表态，不是已被立法固定的规则；生效日、上报门槛与罚则都还看不到，白宫原始文件也未公开。
图 3：Anthropic 的整改动作与白宫表态的四项要求。来源：自制信息卡，依据 Anthropic 官方报告与 Axios 独家（均 2026-10-09）。
同期两条：决策模型被资本确认，视频模型换了一档
决策模型赛道拿到了资本确认：TypeSafe AI 完成约 8.7 亿美元融资，估值 75 亿美元，a16z 领投、红杉与老股东 DCVC 参投。它官方自述《财富》500 强中三分之一在用 Jev——属厂商口径，没有第三方评测。与同日上线的微软 Decision-1 并读才有意义：不输出文本的决策模型正被单独定价。
视频模型这边，生数科技发布 Vidu Q4 Preview：2K / 4K 输出、10bit 色深、单次最长 16 秒、最多 3 段参考音频与 15 张参考图；首发优惠价 0.09 元每秒起（据转述，官方定价页暂未见）。按秒计费的单价要和 16 秒上限合在一起看，才是可比的成本量级。
图 4：决策模型与视频模型两条同期进展。来源：自制信息卡，依据 TypeSafe 官方公告（2026-10-09）与 Vidu Q4 Preview 相关转述（2026-10-10）。
其余几条：论文、模型与工具
- Redwood Research 的论文实测两条蒸馏安全路径：让更弱、可信的学生暴露教师的隐藏怪癖，或是在迁移能力的同时阻断失对齐——原文细节建议先取。来源：Redwood Research 官方博客（10-10）
- Ai2 的 Olmo Hybrid 把注意力与线性循环层结合，在 MMLU 上用少 49% 的训练 token 达到 Olmo 3 7B 的同等准确率。来源：Ai2 官方博客（10-09）
- 苹果与 Huxe 达成人才引进与技术许可协议，是今年公开披露的第 4 笔 AI 相关交易。来源：媒体报道（10-10）
- 字节把 TraeWork 与 TraeCode 合并为新的 TRAE，升级为全链路开发平台。来源：官方公告转述（10-09 ～ 10-10）
- Meta 首席 AI 官谈对齐：用不同的 AI 观察并约束更聪明的 AI，其 Muse 已用独立哨兵智能体检查主智能体。来源：转述（10-10）——属观点，不是既成事实。
图 5：其余条目的分类索引。来源：自制索引卡，依据各条对应来源（2026-10-09 ～ 10-10）。
来源链接
官方来源
- Anthropic 官方报告《Investigating unintended model actions in our evaluations and internal use》（发布日 2026-10-09）
- TypeSafe AI 融资公告（2026-10-09）：typesafe.ai/blog/series-ai
独立来源
- Axios 独家（白宫要求强制上报，2026-10-09）
- TechCrunch（报道该报告，2026-10-10）