上下文预算
在 providers.json 的模型条目里加上预算,然后重启:
"my-model": { "contextWindow": 1000000, "contextWindows": [272000, 1000000]}/context 循环排好序的预算。/context 272k、/context 1m 和 /context 272000 选择已声明的值。Tab 补全当前模型的选项。
每个模型把选择存在 config.json.contextSelections,形状是 {"provider": {"model": tokens}}。没有有效的已保存选择时,从最低预算开始。切换模型会恢复那个模型自己的选择。切换预算前,先结束当前回合或压缩。
--context 为启动时选定的模型选择一个已声明预算,且仅当该模型有多个预算。它只作用于本次进程,不写入 contextSelections。之后的 /context 仍会写入操作者的选择。
所选预算驱动压缩、/status 和 CTX 百分比。降低预算会保留完整存档,并在下一次模型请求前检查是否需要压缩。默认状态栏在思考旁边显示 Context 272K。自定义行可以包含 context-window。
这是本地预算。它不打开提供商的长上下文功能,也不保证计费阈值。token 估计和很大的工具结果可以超出预算。