Claude Message Threads 减延迟

Anthropic 在 Claude 平台为 Messages API 推出 message threads 公测(约 11 月 2 日起文档与产品更新):Agent 不必每轮重传整段对话,服务端保留线程,后续请求只带新增消息,用来压低长会话的首 token 延迟(TTFT)。
长跑 Agent 每轮把几十万 token 再推一遍,网络与排队都会拖慢「模型开始说话」的时间。Threads 把传输体积砍掉,不改变计费口径。可用面:Claude API、AWS 上的 Claude Platform、Microsoft Foundry,以及 Google Cloud 上 Anthropic 托管的 Claude Models。请求需带 beta 头 message-threads-2026-08-12(以平台文档为准)。对 computer use 一类会反复上传截图的 Agent,把历史媒体留在线程里、只传新帧,往往比每次重传整包更划算;文档也点名文档/图片很重的工作流。
注意:延迟数字来自 Anthropic 产品文;过期策略与 beta 头以平台文档为准,SDK 默认行为可能随版本变。