快讯2026-11-10 · 智涌AI

OpenAI 公开 Control Room:35秒急停

OpenAI Control Room 授权与叫停流程示意

OpenAI 在 11 月 9 日公开了内部系统 Control Room。它连着 OpenAI 研究集群里所有的推理任务,包括训练用的 Agent 采样、评测和数据处理,出了安全问题可以把某个任务的模型输出直接停掉。

开关装在推理层,研究员的任务代码里没有这道闸。任务代码多、改得勤,容易出 bug;推理代码路径只有很少几条,集中管控更可靠。35 秒的延迟来自授权缓存,OpenAI 说会继续往零压。

它和监控模型配合使用:所有前沿强化学习任务都挂着一个监控模型,发现异常可以直接通知 Control Room 叫停。fail-closed 已覆盖全部前沿模型研究任务,其余研究任务会在接下来几天内铺开。站内此前报道过 OpenAI 的未对齐行为监控。

注意:这是 OpenAI 对自家内部系统的介绍,没有第三方审计;它管的是研究集群,对外提供服务的模型另有下线机制。

信息来源
关注公众号「智涌AI速递」

每天的 AI 快讯、实用教程和 AI项目实测,也会同步发到微信公众号。在微信里搜索「智涌AI速递」就能关注;不用微信的话,可以用 RSS 订阅本站。