Knowledge Topic
Token成本
讨论天数
2
贡献者
11
提到工具
24
核心洞见
长会话成本上涨的主要原因是上下文膨胀,而不只是用户写了更多代码。
Token 成本治理有两条路线:压缩上下文,以及按任务难度做模型路由。
模型路由的难点在于任务难度识别和质量回退,否则省钱可能牺牲可靠性。
本地运行、不额外调用 LLM、原始输出可展开,是开发者更容易接受的成本优化方案。
中转站省钱,但 API 请求和输入输出存在被记录的信任成本。
核心项目应优先使用官方 API、官方订阅或可审计的私有部署。
开发类 Agent 消耗大多来自输入上下文,而不是最终输出。
本地脚本预处理可以显著减少敏感数据上传和 Token 消耗。