快讯2026-10-30 · 智涌AI

OpenAI 公开前沿错位多层监测

OpenAI 公开前沿模型错位多层监测系统

2026 年 10 月 29 日,OpenAI 发文说明如何监测前沿模型「行为偏离意图」:监测现覆盖训练、评测、内部使用,以及按产品面改造后的部分外部部署;对至少达到 GPT-6 Astra 能力的模型,会盯住每次 RL、评测与带工具的 harness。

内部 Codex 流量一律监测;外部则对网络安全能力达 Preparedness「Critical」阈值的模型做改造版监测,并尊重零数据保留等约束。METR 与 Redwood 自 2026 年 7 月起做过约三周红队,部分漏洞已修、一项仍在推进。

注意:告警时延与复盘结论来自 OpenAI 自报;监测异步且不直接改 RL 奖励,以免诱导思维链隐瞒。

关注公众号「智涌AI速递」

每天的 AI 快讯、实用教程和 AI项目实测,也会同步发到微信公众号。在微信里搜索「智涌AI速递」就能关注;不用微信的话,可以用 RSS 订阅本站。