OpenAI 公开 Control Room:35秒急停

OpenAI 在 11 月 9 日公开了内部系统 Control Room。它连着 OpenAI 研究集群里所有的推理任务,包括训练用的 Agent 采样、评测和数据处理,出了安全问题可以把某个任务的模型输出直接停掉。
开关装在推理层,研究员的任务代码里没有这道闸。任务代码多、改得勤,容易出 bug;推理代码路径只有很少几条,集中管控更可靠。35 秒的延迟来自授权缓存,OpenAI 说会继续往零压。
它和监控模型配合使用:所有前沿强化学习任务都挂着一个监控模型,发现异常可以直接通知 Control Room 叫停。fail-closed 已覆盖全部前沿模型研究任务,其余研究任务会在接下来几天内铺开。站内此前报道过 OpenAI 的未对齐行为监控。
注意:这是 OpenAI 对自家内部系统的介绍,没有第三方审计;它管的是研究集群,对外提供服务的模型另有下线机制。