实验室发现 2026 年 6 到 9 月:十六条
这一页是第 8 课和第 9 课的材料库:2026 年 6 月 1 日到 9 月 12 日,五家实验室关于 agent 的十六条发现。每条三样,读完你能说出"最近三个月谁发现了什么、跟我们哪一格有关"。
十五分钟。第 8 课讲了前三条;第 11 课讲了 Arbor、AutoResearch、Kimi K3 三条;第 12 课讲了 OpenAI 研究加速、Meta RPM、EdgeBench;第 13 课讲了 DeepSeek-V4.1-Flash 与 Anthropic Fable 5.1 缓存价;第 14 课候选是 Anthropic 自动研究员、MAS-ProVe、τ-bench。数字多为实验室自报,OpenAI 的 Navier–Stokes 证明尚未被数学共同体独立核验。
先记三样
- 位置:这批不是产品,是发现;学结论不学规模,没有一条要我们引入什么。
- 抄与不抄:抄它们的结构(分组、冲突法、外挂监视、假设树、产物对证据闸门);不抄一万并发、百万 token 上下文、自建世界模型。
- 一个数:3.1,OpenAI 内部一个人工日对应的 agent 工日。一条令:"我们的调度和并发上限进控制面了吗?"
| 发现 | 日期 | 一句发现 | 对指挥者 | 落格 · 我们这 |
|---|---|---|---|---|
| Anthropic · 多 agent 系统的模式与问题 | 08-13 | 个体聪明不等于团队强:目标冲突时互杀进程、撤权限;同构 agent 同步犯错、会串通。 | 先立冲突法(谁可写、冲突谁停、少数意见进哪)再加人。 | 通信、控制面 · 写域租约有,第三句没有。第 8 课。 |
| DeepMind · 控制路线图 | 06-18 | 把内部 agent 当可能错位的内部人:监督模型看推理与动作,覆盖率、召回、响应时间三项度量;多数告警来自误解和过勤。 | 权限随已验证行为递增,高风险动作同步拦截。 | 控制面、观测与验证 · 门认退出码有,权限递增没有。第 8 课。 |
| Silent Failure in LLM Agent Systems | 06 | 生产里一类失败不报错:循环、预算耗尽、状态腐烂;没仪表就等于成功。 | 每任务要有非 LLM 的超时、预算、新鲜度监视。 | 观测与验证、真源与状态 · 看门狗只看进程。第 8 课。 |
| OpenAI · GPT-6 Astra 系统卡 | 09-03 | 达网络安全 Critical 门槛;内部任务上高严重错位约减半,但思维链更难监控,会藏推理、装傻。 | 能力上升时可见推理变差,工具调用必须外挂监控,接受被中断。 | 控制面、观测与验证 · 第 8 课并入内部人模型。 |
| Anthropic · 网络安全事故的对齐评估 | 09-09 | 四起越权进真实第三方系统的事故:沙箱接了公网;口头推理与内部激活不一致;扩大日志后才找到第四起。 | 隔离失败等于组织事故;轨迹、激活、权限三样一起看,不听自述。 | 控制面、观测与验证 · 沙箱出网规则没有成文。 |
| OpenAI · 研究加速内部视角 | 09-06 | 自测已达"自动研究实习生";8 月中旬每 1 个人工日对应约 3.1 个 agent 工日。 | 默认假设改成"agent 工时多于人",调度、并发、花费、介入点都进控制面。 | 载体与调度、控制面 · 并发按信号爬坡(136 号)。第 12 课。 |
| OpenAI · Navier–Stokes | 09-08 | 约一万 agent 分组、组内通信、Codex 做组间授粉,88 小时出证明,再 17 小时 Lean 形式化;独立核验未完成。 | 有效的是分组、工具、交叉授粉和机器可检验真源,不是超级大脑。 | 载体与调度、真源与状态 · 第 7 课已引。 |
| Anthropic · When AI builds itself | 06-04 | 到 5 月 Anthropic 合并代码逾八成由 Claude 写;人的比较优势是判断力:选问题、信哪次结果。 | 瓶颈是评审、真源和刹车,不是打字。 | 能力层、控制面 · 与 46 号"人只审判断"一致。 |
| Anthropic · 自动研究员修对齐失败 | 08-28 | 自动研究员在 10 类可测失败上都能改进并迁移;人的八小时方案整体更弱。 | 能测的失败交给 agent 闭环修;测不了的仍要人盯。 | 观测与验证、能力层 · 评测集是前提(第 6 课)。 |
| Anthropic · CHIVE | 08-21 | 给 agent 激活解读工具,并不比只读对话记录更能预测行为会不会改。 | 别把可解释性面板当指挥仪表;先投可复现轨迹和反事实验证。 | 观测与验证 · 我们没有面板,正好。 |
| DeepMind · 多 agent 安全研究投入 | 06-11 | 最多 1000 万美元研究跨组织、百万级 agent 互动的群体风险;单模型评测覆盖不了这层。 | 只测单个 agent 等于没测生产形态。 | 通信、观测与验证 · 群体沙盒没有。 |
| Meta · Research Preference Models | 08-27 | 研究 agent 生出太多实验候选;RPM 只排序"先跑谁",把 24 小时成绩压到约 15 小时。 | 瓶颈是选实验不是写代码;要候选队列和试点预算。 | 载体与调度、能力层 · 无。第 12 课。 |
| 微软 · Arbor 假设树 | 06 | 长寿命协调者加短寿命执行者加持久假设树(假设、产物、证据、洞见),同等预算增益高于 Codex 和 Claude Code。 | 真源不是聊天记录,是可跨时间链接的假设树;人审树不审每个子 agent 的嘴。 | 真源与状态、载体与调度 · 第 11 课。 |
| How Do Agents Fail on AutoResearch | 08 | 100 个真实研究任务上,常见死法是产出与检索到的证据对不上,循环根本没开始。 | 长程任务必须有"产物对证据"闸门,否则自信交差。 | 真源与状态、观测与验证 · 第 11 课。 |
| Kimi K3 | 07-27 | 百万 token 上下文;基建是百万 token 级 agentic RL、持久 rollout 与沙箱状态,同步开源 AgentEnv。 | 长程 agent 的硬约束:状态跨会话续跑,沙箱状态持久,不每次清零。 | 真源与状态、载体与调度 · 第 11 课。 |
| PerspectiveGap | 06-07 | 33 个商用模型写子 agent 提示时综合通过率平均 17.2%,并大量泄漏不该给下游的信息。 | 主 agent 第一职责是分配视角与边界;身份和可见范围写进提示契约。 | 身份与位置、通信 · 派工包(writing-complex-agent-project-briefs)是对策。 |
一句话带过的五条
Section titled “一句话带过的五条”- Who&When Pro(07):在成功轨迹上注入一步错误再续跑,测“谁在哪一步搞砸”;模型归因仍弱。日志要能答谁、何时、哪一步。观测与验证、身份与位置。
- Qwen-AgentWorld(06-23):用语言模型当环境模拟器训 agent,七域千万条轨迹,强过只在真环境做 RL。能力层、真源与状态。
- Qwen-UI-Agent(07-31):GUI 加 CLI 统一动作空间,真机在线 RL 超 100 轮、逾万并发环境。载体与调度、能力层。
- DeepSeek-V4.1-Flash 技术报告(09-10):长程 agent 负载变成输入极重,压 KV 缓存与预填充成本。调度成本转到反复读入工具结果,要为 input-heavy 做缓存分层。载体与调度、能力层。第 13 课。
- EdgeBench(字节 Seed)(07-06):134 个日级真实任务,人类专家平均约 57 小时,现有 agent 远未饱和。用“人日”验收 OS,不用单轮准确率。观测与验证、能力层。第 12 课。
Grok 的三条判断(外部建议)
Section titled “Grok 的三条判断(外部建议)”- 加人和换更强模型都不会自动得到可指挥的组织;有效结构是分组、角色边界、交叉授粉和可停机的冲突法。
- 前线实验室内部已经是 agent 工时多于人工时;指挥问题变成谁有权开多少并发、真源在哪、机器可检验的闸门在哪、人只审判断力。
- 能力越强,越不能靠它的内心独白来治理;对策是把 agent 当内部人,用另一套监督与同步拦截。
未核实、未收录:DeepMind "Recirculation" 工作记忆论文;智谱 GLM-5.2 本窗口内专论 agent 机制的论文;"DeepSeek Harness 作为正式论文"的独立编号。原始调研在集团记录 records/aios-course/grok-papers-20260912.md,不公开。