Jev 是什么:TypeSafe 的决策模型

工单要分流、Agent 要选模型、工具调用要过一道闸——这些事若每次都叫大模型写一段再解析 JSON,又慢又贵。TypeSafe AI 在 2026-09-15(美国时间)发布的 Jev,接口变成:输入程序状态和 typed 问题,直接给出带概率的结构化答案。它不是聊天模型,也不是写代码的模型;官方文档把这类能力叫 System One。
它是什么,不是什么
官方「Jev with coding agents」页说得很清楚:Jev 不能替换 Claude Code、Cursor、Copilot、Grok Bot 背后的 LLM。它不生成长文、不流式写代码、不跟你闲聊。一次请求吃进 state(字符串或结构化对象),再吃一组 typed 问题,按题返回:
- Choice:从给定选项里选一个,带各选项概率与 confidence。
- Score:按你定义的有序量表打分,带各档概率。
- Noul:是/否命题,返回 0–1 概率。
- Box:在图像上框出目标位置(需开启相关能力;文档单独开页说明)。
Quick start 表格默认强调前三种「primitives」;图像与 Box 走另一条能力开关。和 LLM「请返回 JSON」相比,类型由接口保证,代码侧少一层脆弱解析。
Jev is not a drop-in replacement for the LLM behind coding agents. … There is no
model: "jev-latest"setting that turns your coding agent into a Jev-powered agent.
一次请求长什么样
所有模型走同一端点 POST https://api.typesafe.ai/v1/systemone,用 model 字段选型。下面这段工单分流示例来自官方 Quick start(Bash),说明「同一 state 上并行多题」的形状:
curl https://api.typesafe.ai/v1/systemone \
-H "Authorization: Bearer $TYPESAFE_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "jev-latest",
"state": "Our API integration started returning 500 errors…",
"questions": {
"department": {
"type": "choice",
"instructions": "Which team should handle this",
"criteria": {
"billing": "Payment or subscription issues",
"technical": "Bugs or integration problems",
"sales": "Pricing or account questions"
}
},
"frustration": {
"type": "score",
"instructions": "How frustrated the customer appears",
"criteria": [
"Calm, just stating facts",
"Frustrated but civil",
"Very angry, strong language"
]
},
"is_urgent": {
"type": "noul",
"instructions": "The message conveys urgency or time-sensitivity"
}
}
}'
官方示例返回里:choice 是部门标签,score 是挫败量表位置(约 0–2),noul 是紧急概率。Python / JS SDK 把同一形状包成 TypeSafeClient.system_one / systemOne;密钥环境变量名是 TYPESAFE_API_KEY。装包命令官方写的是 pip install typesafe-sdk 与 npm install @typesafe-ai/sdk。
版本、价格、上下文
| 项 | 官方口径(Models 页) |
|---|---|
| 当前版 | jev-1.14.0(2026-10-14 起);jev-1.13.0 仍列在表里 |
| 别名 | jev-latest → 1.14.0;jev-preview 目前同指向 |
| 价格 | 输入 $42/BTok=$0.042/MTok;输出 token 免费 |
| 默认上下文 | 每请求 64k;每题 32k(state+单题) |
| 长上下文 | 请求头 TypeSafe-Danger-Zone-Long-Context: true → 两侧提到 262k;同价,更慢、更易掉精度 |
限速按组织配置,超限返回 429;SDK 默认会重试。企业可谈更高配额。语言:英文是主训练语言;含中日韩在内的其他语言「能处理但不均衡」,官方建议自测再依赖。
典型用法(文档与 cookbook)
Use-case map 与 cookbook 里里常见、也最贴近开发者日常的,挑六类:
- 客服 / 工单分流:Choice 定部门,Score 看情绪,Noul 看是否紧急——Quick start 就是这条。
- LLM 护栏:入站/出站消息上挂危害与严重度检查,按概率阈值放行、人工审、拦截(cookbook: Guardrails)。
- 模型路由:先用 Jev 判意图、难度、风险,再决定便宜模型还是贵模型、或转人工。
- RAG / 重排:对检索片段打相关分,或 pairwise 重排;文档有 classifying passages、rerank 等菜谱。
- 引用核验:对照源文档,用 Choice 判「这句话是否被原文支持」。
- Agent Skill / 函数参数:从封闭选项里挑 Skill 或函数名与参数,再交给普通代码执行(Skill suggestion、function calling cookbooks)。
编程 Agent 侧:不要指望把 Agent 的底层模型换成 Jev;官方建议装 TypeSafe Agent Skill(Claude Code 插件,或 npx skills add typesafe-ai/skills --skill typesafe-ai),让 Agent 帮你写出正确的 Jev 集成。
什么时候用 Jev,什么时候继续用大模型
| 场景 | 更合适 |
|---|---|
| 固定选项分流、量表评分、是/否门槛、要审计阈值 | Jev |
| 写文案、写代码、多轮对话、开放式规划 | LLM |
| Agent 里「先决策再行动」 | LLM 编排 + Jev 做窄决策 |
| 要流式长回答或工具调用串 | LLM;Jev 只做旁路判定 |
投资方 a16z 文中还写了「分类任务上成本约是前沿模型的 1/100–1/500、速度快约 100×」一类对比——这是投资人表述,不是你本机基准;最终还是看自家延迟和准确率门禁。
公司口径与当前状态
产品状态:公开 API + 文档 + Playground + SDK + Agent Skill;Models 页把 1.14 标为 newest。融资:TypeSafe 博客写 2026-10-09 完成约 $870M / $7.5B 估值的大额 A 轮(a16z 领投,Sequoia、DCVC 等参与)。采用数字要分清出处:
- TypeSafe 博客与 TechCrunch 报道写公司宣称约 三分之一 Fortune 500 在用 Jev。
- a16z 投资博文写的是 25% Fortune 500,以及上线约 3 天内「1 trillion tokens」量级——与媒体转述的公司口径并不相同。
下文一律当公司/投资方宣称;具体客户名单未公开。站内若你在做 Agent 编排或护栏,可对照 Claude Code 斜杠命令、SkillSpector、OpenAI Decisions API 那几篇看「决策」在不同栈里怎么落。
最后
先打开官方 Playground 或 Quick start,用真实工单/日志贴一段 state,把分流规则写成 Choice/Score/Noul;阈值写进代码(例如 confidence > 0.8 自动过)。需要 Agent 代写集成时再装官方 Skill。完整字段与错误码以 docs.typesafe.ai 为准。