跳转到内容

账单在读不在写

读完这课你可以下的命令:“这席每轮重读多少?缓存命中了吗?这个池减掉维护和恢复余量还剩多少?缺的是 token 还是墙钟?”

  • 输入极重
  • 缓存价
  • 额度余量

怎么读:全文两千二百字,二十分钟。上一课讲并发怎么升降,这课讲钱和额度怎么算。材料两条外部一条内部:DeepSeek 9 月 10 日的技术报告、Anthropic 9 月 1 日的定价页、克老师 136 号 v2 第 4 节的额度规则。

一席一天的钱花在哪?

我每收到你一条消息,都先把一页灵魂、几十个 Skill 的说明、记忆索引重新读一遍,才开始干活。跑一次工具,结果回来,又把这些连同结果再读一遍。一天几百轮。第 9 课那个开源组件实测过:不隔离时用户的五十八个 Skill 全进提示,三十六千字;隔离后一个,七千字。写出来的字,一天加起来远没有读进去的多。

DeepSeek 在 9 月 10 日的报告里把这件事说成一句话:长程 agent 的负载已经变成输入极重。同一周 Anthropic 的定价页说的是另一半:缓存读的价格降了,典型负载省四分之一,agent 负载最多省近一半。合起来就是这课的题目:长跑 agent 的账单在读不在写,看缓存价不看标价。

长跑 agent 的钱大头是反复读同样的东西;省钱先省重读。

第 12 课末尾问的,答案在这。

  1. 并发为什么不能写死一个数?agent 工时曲线一个季度翻倍,没测过的数字很快过期;写死了要么成假瓶颈,要么失去刹车。
  2. 候选队列答什么、不答什么?答“先跑谁”,不答绝对分数。
  3. 一票标“三人日”,验收看什么?看 agent 交到了哪一层、替掉了多少人日,不看完成件数。
看模型标价:每百万 token 多少钱。看缓存价:长跑任务大头是重读,命中缓存的那部分按缓存价算;账单差一半。你改下的令:“这条长跑任务的缓存命中率多少?”
额度看一个百分比:“还剩 40%。”额度按池算余量:剩余要大于预计消耗加已承诺维护加恢复余量;不同模型、不同产品的百分比不能相加。你改下的令:“哪个池?减掉维护和恢复余量还剩多少?”
不够就加席、加算力。先问缺的是哪种预算:token、墙钟、算力、验证器查询次数,四种不能互换;缺墙钟加席没用。你改下的令:“缺的是哪一种?”

三条的共同点:账要按种类和池分开记。第 12 课说调度看信号,这课说其中“额度余量”那个信号怎么算出来。

账分池、分种类记;一个百分比说明不了任何事。

  • DeepSeek-V4.1-Flash 技术报告(9 月 10 日)发现:长程 agent 工作负载变成输入极重,频繁工具调用让每一轮都重读大量上下文;这个模型专门压 KV 缓存与预填充成本。落格:载体与调度、能力层。我们这:一席每轮重读一页灵魂、Skill 清单、记忆索引,没人量过多少字;没有“重读量”这个读数。一个数:三十六千字到七千字(隔离无关 Skill 的实测)。一条令:“这席每轮重读多少字?先把不相干的 Skill 隔离掉。”
  • Anthropic Fable 5.1 定价(9 月 1 日)发现:缓存读降价后,官方称典型负载约省四分之一,agent 负载最多约省近一半;同一模型两个发行版(Fable 与 Mythos),后者仅受信项目。落格:载体与调度、控制面。我们这:走订阅,不按 token 付费,但额度窗口按用量消耗;缓存命中是否按折扣计入额度,待核。一个数:近一半。一条令:“报额度时一起报缓存命中率。”
  • 克老师 136 号 v2 第 4 节:额度规则(9 月 11 日)发现:真正的并发上限来自两处:每常驻占用率不超过七成,和各池剩余额度大于预计消耗加已承诺维护加恢复余量;不同模型、不同产品的百分比不相加,二十倍档和五倍档不相加。落格:控制面、观测与验证。我们这:规则已定;读数靠派活前查额度的脚本,9 月 1 日拆掉的那个用量水表没有替代。一个数:三项要减掉(预计消耗、已承诺维护、恢复余量)。一条令:“这个池减掉三项还剩多少?”

同一份上下文读一百遍,为什么不该付一百遍的钱?

类比。每天上班先把整份档案从头读一遍再干活,和桌上留一张昨天的便签、只读新来的那几页,干的是同一件事,花的时间差十倍。缓存就是那张便签:读过的、没变的部分,按便签价算。

加上加上才生成系统提示与 Skill每轮重读 · 可缓存记忆与上下文每轮重读 · 越跑越长工具结果每次调用新增 · 大头模型输出一轮里最小的一块
一轮的账。红色两块是输入极重的来源;绿色那块能靠缓存省。

能缓存的越跑越重的输出前几课的词

例子。一席一轮读的东西分四块:系统提示和 Skill、记忆和已有上下文、这次工具跑回来的结果、最后才是模型写出的几百字。前两块每轮一样,能缓存;第三块每调一次工具就长一截,是输入极重的来源;第四块最小。所以省钱的顺序是:先把第一块瘦身并保证命中缓存,再控制第三块别把整个文件倒进上下文,最后才轮到少写几个字。

白话。长跑 agent 的账单看两样:重读了多少,重读里多少命中了缓存。标价只决定没命中那部分的单价。

术语。prompt caching、cache hit rate;预填充 prefill 是把输入读进去那一步,KV 缓存是留着上一轮读过的东西不重算。第 9 课第三定律说的就是这件事:能力放在 Harness 里,每次推理重付一遍。

做减法分种类当信号算重读三律退出日第 5 课四种预算第 9 课额度余量信号第 12 课Harness 每次重付第 9 课第三定律本课三块输入极重 · 缓存价 · 额度规则
本课的词从前几课哪个词推出来。

账单看重读量和命中率,标价只管没命中的那部分。

工作样例:一条坏命令改成好命令

Section titled “工作样例:一条坏命令改成好命令”
坏的“额度还剩四成,再开两席。”
改第一步:补池和余量“哪个池的四成?Claude 的四成和 GLM 的六成不能相加;减掉已承诺维护和恢复余量,还剩多少?”
改第二步:补重读和缓存“这两席跑的是长任务,每轮重读多少字、命中率多少?没命中的先把无关 Skill 隔离掉,再谈开席。”
改第三步:补预算种类“缺的是 token 还是墙钟?缺墙钟加席没用,缺验证器查询次数更没用。”

三步对应三条发现。第一步是克老师已定的规则,第二步和第三步是这课新加的两个读数:重读量与命中率,预算种类。

输入极重 input-heavy长程 agent 每轮重读大量上下文,工具调用越多越重;成本从生成转到读入。只算输出 token。一席每轮重读多少字没人量过。第 13 课 · 命令:“每轮重读多少?” · 不是:上下文窗口大小
缓存价读过且没变的上下文按折扣价算;长跑任务账单差近一半。看标价。订阅额度是否按缓存折算,待核。第 13 课 · 命令:“命中率多少?” · 不是:换便宜模型
额度余量各池剩余减预计消耗、已承诺维护、恢复余量后的数;不同池百分比不相加;四种预算不互换。一个百分比。规则已定,读数靠脚本,水表拆了没替代。第 13 课 · 命令:“减掉三项还剩多少?” · 不是:总额度

本课其余的词(预填充、KV 缓存、命中率、四种预算)已进术语手册,不要求本课记住。

  1. 长跑 agent 的账单为什么看缓存价不看标价?
  2. 两个池各剩四成,能不能合成八成?
  3. 一轮里最重、最该先瘦的是哪一块?
忍不住要看答案?下一课开头会揭,现在点开也行。

因为大头是重读,命中缓存的按折扣算,标价只管没命中那部分。不能:不同模型、不同产品的百分比不相加,各池分别减三项。系统提示和 Skill 那块,每轮一样、能缓存,先隔离无关的;其次控制工具结果别整份倒进上下文。

DeepSeek 与 Anthropic 两条由 Grok 于 2026-09-11 与 09-12 经官方页核证,身份是外部建议,原文不公开;缓存价的两个百分比是厂商自述。集团部分:克老师 136 号 v2 第 4 节(2026-09-11);第 9 课开源组件 RSIH 的隔离实测;本席 9 月 1 日拆除的 Claude 用量水表记录。

  1. DeepSeek,DeepSeek-V4.1-Flash 技术报告,2026-09-10。huggingface.co
  2. Anthropic,Claude Fable 5.1 与 Mythos 5.1,2026-09-01。anthropic.com
  3. CosmosMind-ai/RSI-Harness,resources.isolate 实测(58 个 Skill、36 KB 到 7 KB)。github.com