Inkling 2 Small 发布:594B MoE,权重计划下周开放

Thinking Machines Lab 在美国时间 2026 年 11 月 5 日发布第二代模型 Inkling 2 Small。这是一个 MoE 模型,总参数 594B,每个 token 激活 17B,支持图像输入和可调推理强度,上下文最长 1M token。首发只在 Tinker 平台提供推理和微调,权重暂不公开;官方计划在完成外部安全测试与红队后,于下周以 Apache 2.0 许可放出完整权重。
发生了什么
Inkling 2 Small 是多模态自回归 Transformer:文本和图像输入,文本输出。模型卡写明架构是 48 层解码器,稀疏 MoE 前馈,注意力为局部层与全局层混合;图像经视觉 Transformer 编码后,与文本投影到同一隐空间再交给解码器。视觉编码器约 292M 参数,基于 Perception Encoder,使用 20×20 像素的补丁并做 2×2 空间池化。图像边长建议在 40px 到 4096px 之间。
训练分了好几段。第一阶段(H1)覆盖约 8.4 万亿 token 的语言、代码和图像数据,在 GB300 NVL72 机柜上跑了 68 小时,原生 NVFP4。第二阶段(H2)接着用约 3.8 万亿更新、更高质量、模型没见过的数据,上下文拉到 512K。第三阶段大约 3200 亿 token,混入 1M 上下文的推理和 Agent 轨迹,并回放一部分预训练数据。第四阶段只留最高质量数据,大约 340 亿 token 的 Agent 轨迹。之后是一次联合强化学习:1,075 步,超过 1,700 万次 rollout,9 天,2,048 块 GPU,算力超过 4×10²³ FLOPs,token 超过 3 万亿。任务里编程占 rollout 的 38.5%、占 token 的 65.0%。训练时会随机采样一个推理强度,并在奖励里加长度惩罚,用来权衡速度和仔细程度。
官方说它在数十万个长程编程任务上做了强化学习,覆盖多种 Agent 框架和上下文压缩策略,并增加了看过程而不只看单测是否通过的评分器。权重放出后,检查点也可随权重一起下载;现在可以在 Tinker 上推理和微调,发布页写可在 Tinker Playground 试用。
官方计划在完成外部安全测试与红队之后,于下周以 Apache 2.0 许可放出完整权重。当前模型卡上写的仍是 Tinker 使用条款。
为什么重要
这是 Thinking Machines 的第二代模型:先在 Tinker 闭权重上架,做完安全评估再考虑开权重。想自托管、再做领域微调的团队会盯着 Apache 2.0 这一条;具体哪天放出,以官方实际发布为准。官方强调的能力,是长程自主工作,以及把视觉反馈嵌进改网站、游戏和三维场景的循环;同时它也按 Tinker 上的微调场景做了优化。
知识工作基准 AA-Briefcase v1.1 官方报 1527;DesignArena Website 报 1340。发布页写:待权重放出后,它有望成为 DesignArena 上的开放权重第一名(官方宣称)。财务相关基准上,官方称它在若干项里是开放权重模型里最好的一档,例如 Vals Finance Index 61.5%、DAYJOB(Finance)14.3%。
可核实数字
下面这些数字均来自 2026 年 11 月 5 日的官方发布页或模型卡,属于厂商公布值。发布页正文写智能指数 31 分,同页大表写 AA Index v5.0 为 30.6,两处并存,这里按大表对照同行。
- 参数:594B 总计,17B 激活;48 层;384 个专家中路由 8 个。
- 上下文:最长 1M token。评测统一用推理强度 0.99(xhigh)、温度 1.0,轨迹上限 1M token(上一代 Inkling Small 的评测上限是 256K)。
- 编程:FrontierCode v2.0 为 25.4%,DeepSWE v1.1 为 72.1%,SWEBench Pro v2(Hard)为 86.3%。
- 核优化基准 PMPP-Hard:10 小时预算、4 次独立尝试的平均完成题数是 54.25 / 69,AUC 为 494.27。
- 视觉:MMMU Pro(Standard 10)为 81.6%,PerceptionBench 为 64.7%,GDP.pdf 为 25.2%。
- 对齐内部指标(越低越好):Misbehavior 14.9,上一代 Inkling Small 为 75.2;Covert misbehavior 11.8,Inkling Small 为 59.1。
和同场 Flash 级开放权重比一比
官方评测表把 Inkling 2 Small 放在「Open Weights Flash」一栏,旁边是 GLM-5.3-Flash 和 DeepSeek-V4.1-Flash-1017。选这两家当主对照,数字都来自同一张表:
| 项目 | Inkling 2 Small | DeepSeek-V4.1-Flash-1017 | GLM-5.3-Flash |
|---|---|---|---|
| 激活 / 总参数 | 17B / 594B | 16B / 552B | 18B / 320B |
| AA Index v5.0 | 30.6 | 32.6 | 27.8 |
| FrontierCode v2.0 | 25.4% | 28.5% | 14.2% |
| DeepSWE v1.1 | 72.1% | 77.0% | 63.4% |
| DesignArena Website | 1340 | 1297 | 1270 |
| AA-Briefcase v1.1 | 1527 | 1570 | 1451 |
同一张表里,它的综合指数和多项编程分数低于 DeepSeek-V4.1-Flash,高于 GLM-5.3-Flash;DesignArena Website 高于这两家。SWEBench Pro v2(Hard)一栏里,后两家没有给出分数。
谁该关心,怎么试
做 Agent 编程、要看图改界面、或准备在 Tinker 上微调垂直模型的团队,可以先到 Tinker 试用。想自托管的人,等官方按 Apache 2.0 放出权重后再评估机器和推理栈;现在模型卡上的分发方式仍是 Tinker 的微调与推理 API。
官方列了几条限制:它不是最简洁的表达者;技能很多的代码库里,不一定选对工具;不支持音频输入;聊天体验没怎么打磨,会出现组织较差、斜杠用得过多、以及在心理健康等相关问题上反应过激的情况。安全方面,官方称 CBRN 知识和能力分数低于开放权重前沿,攻击性与两用网络基准比上一代 Inkling Small 高一截,但仍落后于开放权重前沿;在 Vals CyberBench v1.1 和 PatchEval 上与开放权重前沿持平。
最后
先去 Tinker Playground 按官方入口试用;如果你要的是可自部署的权重,盯住官方是否按期以 Apache 2.0 放出,再决定要不要往自己的集群上搬。