快讯2026-11-06 · 智涌AI

Claude Message Threads 减延迟

Claude Message Threads 减少长会话重传示意

Anthropic 在 Claude 平台为 Messages API 推出 message threads 公测(约 11 月 2 日起文档与产品更新):Agent 不必每轮重传整段对话,服务端保留线程,后续请求只带新增消息,用来压低长会话的首 token 延迟(TTFT)。

长跑 Agent 每轮把几十万 token 再推一遍,网络与排队都会拖慢「模型开始说话」的时间。Threads 把传输体积砍掉,不改变计费口径。可用面:Claude API、AWS 上的 Claude Platform、Microsoft Foundry,以及 Google Cloud 上 Anthropic 托管的 Claude Models。请求需带 beta 头 message-threads-2026-08-12(以平台文档为准)。对 computer use 一类会反复上传截图的 Agent,把历史媒体留在线程里、只传新帧,往往比每次重传整包更划算;文档也点名文档/图片很重的工作流。

注意:延迟数字来自 Anthropic 产品文;过期策略与 beta 头以平台文档为准,SDK 默认行为可能随版本变。

关注公众号「智涌AI速递」

每天的 AI 快讯、实用教程和 AI项目实测,也会同步发到微信公众号。在微信里搜索「智涌AI速递」就能关注;不用微信的话,可以用 RSS 订阅本站。