快讯2026-11-17 · 智涌AI

OpenAI 请四家机构进驻查对齐

OpenAI 首批嵌入式评估机构分工:Apollo、METR、Goodfire、Transluce

OpenAI 在 11 月 16 日(美国时间)宣布首批「嵌入式评估」:和 Apollo Research、METR、Transluce、Goodfire 四家独立机构签约,让它们长期深度访问内部模型和系统,评估对齐情况和安全措施是否有效。

Goodfire 会派可解释性研究员进驻,主要服务内部训练监控,同时公开部分发现。OpenAI 说这是在履行《白宫超级智能协议》里接受独立评估的承诺,之后可能扩大合作范围。

同一天加州总检察长因 Agent 失控事件起诉了 OpenAI(见站内 相关快讯)。外部评估能不能独立运作,要看各家最后公开多少结果。

注意:访问范围和公开安排由 OpenAI 和评估方商定,外界最终能看到多少结果要看后续公开。目前评估刚开始,还没有结论。

关注公众号「智涌AI速递」

每天的 AI 快讯、实用教程和 AI项目实测,也会同步发到微信公众号。在微信里搜索「智涌AI速递」就能关注;不用微信的话,可以用 RSS 订阅本站。