跳到正文
The DecoderMatthias Bastian

Anthropic Message Threads 将长对话首 token 延迟降低约 35%

Anthropic's Message Threads cut time to first token by 35 percent for long conversations

Anthropic 在 Claude 平台推出 Message Threads 公测,据公司称,500,000 至 1,000,000 tokens 请求的首 token 延迟降低约 35%。

读原文 ↗导出 Markdown