OpenAI 请四家机构进驻查对齐

OpenAI 在 11 月 16 日(美国时间)宣布首批「嵌入式评估」:和 Apollo Research、METR、Transluce、Goodfire 四家独立机构签约,让它们长期深度访问内部模型和系统,评估对齐情况和安全措施是否有效。
Goodfire 会派可解释性研究员进驻,主要服务内部训练监控,同时公开部分发现。OpenAI 说这是在履行《白宫超级智能协议》里接受独立评估的承诺,之后可能扩大合作范围。
同一天加州总检察长因 Agent 失控事件起诉了 OpenAI(见站内 相关快讯)。外部评估能不能独立运作,要看各家最后公开多少结果。
注意:访问范围和公开安排由 OpenAI 和评估方商定,外界最终能看到多少结果要看后续公开。目前评估刚开始,还没有结论。