Perplexity 开源 AI 智能体沙箱 SPACE:118 次越狱测试零逃逸
正在把 Agent 接到生产环境的平台与安全同学:Perplexity 把自己用来防「流氓智能体」逃逸的沙箱 SPACE 开源了——代码上 GitHub,云厂商也开始代售。
据 Semafor 10 月 15 日独家报道。背景很简单:能浏览、能跑代码的智能体变多之后,模型一旦绕过约束,就可能摸到开放网络甚至攻击第三方。对齐训练仍在做;安全业界越来越主张再加一层硬隔离。
118 次零逃逸很亮眼——放开出网和装依赖之后,攻击面会立刻变大。
自测口径:值得跟进,别神化
- 九个前沿模型尝试突破 SPACE,共 118 次,称均未逃逸。
- 同批测试中,这些模型能突破部分未开源的其他沙箱——用来衬托相对强度。
- 技术成员 Zibi Braniecki 称很多公司做安全智能体时会「撞墙」,并把开源比作早期浏览器共建护栏。
测试集、提示词与默认配置并未在新闻里展开。当成「值得跟进的开源项目」,不是无敌堡垒。
和 Nvidia OpenShell 等怎么选
| 看什么 | 为什么重要 |
|---|---|
| 网络 / 文件系统 / 密钥隔离粒度 | 决定 Agent 实际碰得到什么 |
| 性能开销 | 过度隔离会浪费算力 |
| 默认出网策略 | 浏览型 Agent 一放开就换攻击面 |
SPACE 的差异更多在叙事与分发:搜索公司把自己的生产级约束层开源,并拉上云与边缘伙伴。选型仍要自己比。
开源之后,社区复现才是真正的压力测试
厂商自测可以挑提示词、挑默认配置。一旦代码公开,有人就会专门找突破路径——修复也可以更快传播。这是 Braniecki 拿浏览器安全护栏做类比的原因:护栏要经得起集体折腾,不只是发布会亮点。
对平台团队:预发环境用故意越狱提示词回归,把出网、装依赖、挂载路径三条权限分开开关。对个人开发者:Agent 若只读本地笔记,简单容器可能已够;别为追热点上复杂栈。
最后
从 GitHub README 与示例部署起步,先在隔离环境复现官方场景,再用故意越狱提示词做回归。个人若 Agent 只读本地笔记,简单容器可能已够,不必为追热点上复杂栈。关注 issue 与安全告警,比只转发行新闻重要。