Anthropic's Message Threads cut time to first token by 35 percent for long conversations
Anthropic 在 Claude 平台推出 Message Threads 公测,据公司称,500,000 至 1,000,000 tokens 请求的首 token 延迟降低约 35%。
Anthropic 在 Claude 平台推出 Message Threads 公测,据公司称,500,000 至 1,000,000 tokens 请求的首 token 延迟降低约 35%。