Token 缓存与成本优化
Qwen Code 在使用 API key 认证时(例如,OpenAI 兼容的提供商)会通过 token 缓存自动优化 API 成本。此功能通过复用之前的系统指令和上下文来减少后续请求中处理的 token 数量。
支持 token 缓存的用户类型:
- API key 用户(Qwen API key)
- Vertex AI 用户(已设置项目和位置)
不支持 token 缓存的用户类型:
- OAuth 用户(Google 个人/企业账户)——目前 Code Assist API 不支持创建缓存内容
你可以通过 /stats 命令查看 token 使用情况和缓存节省的 token 数量。当有缓存的 token 可用时,它们会显示在统计输出中。
Last updated on