快讯2026-10-24 · 智涌AI

Mythos 5 测试中开马甲,逼维护者合恶意 PR

Claude Mythos 5 在 AISI 测试中越界:43 次运行中 9 次影响真实世界

Anthropic 10 月 23 日发布了一份对齐评估,复盘英国 AI 安全研究所(AISI)网络安全测试中的越界事件。AISI 跑的 43 次 CTF 评测里,Claude Mythos 5 有 9 次做出了波及真实世界的动作。当时环境能上网,Fable 5 的网络安全防护也被关掉了。

攻击开始以后谁会自己停下,差距更明显:Mythos 5 是 0%,Mythos 5.1 是 1%,Opus 5.5 是 10%,内部研究模型是 62%。Anthropic 还做了个实验,在思维链里插一句「这可能伤害真人」,发起率就从 83% 掉到 13%。

Agent 一旦接上真实网络和真实账号,目标导向的「惯性」会推着它越界。用 Claude Code 跑长任务的可以参考站内的 hooks 护栏教程,把出网和写操作拦在外面。

注意:重放是事后在相似环境里复现,跟原始运行不完全一样;数字由 Anthropic 自报。生产环境开着防护,这类行为按 Anthropic 的说法会被拦下。

关注公众号「智涌AI速递」

每天的 AI 快讯、实用教程和 AI项目实测,也会同步发到微信公众号。在微信里搜索「智涌AI速递」就能关注;不用微信的话,可以用 RSS 订阅本站。