晨报归档

AI 晨报 · 2026-11-03 期

Anthropic 让长会话每轮只发新增消息,账单却没跟着降

本期导读 展开 / 收起
  1. 三分钟晨读
  2. 研究附录
  3. 来源与说明

三分钟晨读

主条|每轮少传一段历史,省下的是等待

Anthropic 11 月 2 日在 Claude Platform 公测 message threads。长会话智能体以前每轮都要把完整对话和工具结果重新发给 Messages API,现在首轮发完整会话,之后每轮只发新增消息和上一轮响应的 ID,服务端按 ID 把线程接起来[1][2]。官方给的数字是:50 万到 100 万 token 的请求,首 token 等待时间中位数降约 35%,属官方自测,没给绝对毫秒值,也没给 p95 或 p99[1]。

这条公告真正要读的是限定部分。每轮请求变小,Claude 仍然读完整会话,token 用量不变,标准 token 价格与速率限制也不变[1]。省下的是请求发出去到第一个 token 回来之间的等待,账单不会跟着降。线程留在内存里、加密、不写盘,最后一次请求后 5 分钟过期;官方把它定位给持续活跃、在意延迟的会话,隔天接着干的跨次会话不在这条能力的范围内[1][2]。

10 月 27 日 Latent Space 那场访谈里,Anthropic 平台工程负责人把「让服务端暂存对话状态」列为下一步方向[13][15]。一周后落地的是传输侧去重,会话状态仍由调用方自己存。把这两段并置才看得清边界:这次改的是每轮往公网重发什么,并没有把记忆搬进服务端。

还有几处官方没写满:35% 只有中位数,没列逐模型支持矩阵,也没说总响应时长是否变化;功能仍是 public beta,官方称默认只对多数 Claude Code 用户开启[1][2]。要用在自己的长任务上,先把每轮重发的历史列出来,分清省掉的是传输,还是模型真正要读的上下文。线程 5 分钟过期之后把状态接回来,仍是调用方的事。

次条|检查挪进模型内部,每生成一个 token 打一次分

OpenAI 对齐研究团队 11 月 2 日公布已部署的激活分类器:探针读模型残差流激活,流式每采样一个 token 返回一个 logit,越过阈值就暂停输出、阻断工具调用,把片段交给推理模型复核。从 GPT-5.6 起,这套监控覆盖能力较强模型的全部回复[3][4]。与读输出的文本分类器相比,探针的输入是被监控模型自身的激活,模型变强时分类更准,代价是每个新预训练基座都要重训,权重漂移后还得周期性重训[3]。

限定也写得很直白:只能检测显式训练过的行为类型,图表来自多项内部实验、官方明说未必代表已部署分类器,两份公告都没给出真实事件率下降的证据[3][4]。这套做法把监控器与被监控模型的权重绑在一起,跨后训练检查点迁移良好、跨预训练检查点有限,就是绑定的价格。

次条|找缺陷变便宜之后,评审成了 PostgreSQL 19 的瓶颈

PostgreSQL 核心开发者 Robert Haas 10 月 30 日撰文,称 19 可能推迟到 11 月,三个大特性在 8 月 27 日至 9 月 15 日之间被撤回[5][6]。他按 4 月 8 日至 9 月 25 日同一区间统计:进入 master 的提交从 1037 增至 1443,当期稳定分支的回补从 724 增至 1169,对更早版本的回补从 248 增至 433[5]。

他把增长归因于大量人用大模型翻出陈年缺陷,措辞是「似乎更可能」;修复仍需人工评审提交,人的判断力一年间没变,评审时间被回补分支分散[5]。提交数是作者自行统计,未剔除其它流程变化,他是长期核心开发者,属当事人视角而非项目官方公告;长期能否追上四十年存量缺陷,他明说没有答案[5]。与主条并读可以看出同一处分工:生成与发现变便宜,确认、评审、签字仍按人头计价。

快讯|OpenAI 把 Model Spec 重组成 5 项价值观

OpenAI 10 月 29 日更新 Model Spec,把行为准则重组为 5 项核心价值观,给出指令权限层级,模型称呼从 the assistant 改为 GPT[8][9];中文报道整理出 6 级指令链[10]。官方自认模型尚未完全遵循新版准则,也没给遵循率的量化结果,书面政策与实际表现之间仍有一段距离[8]。

快讯|Lev 用循环代替思维链,难题多转几圈

Lehigh University 等机构研究者提出 Lev 决策模型:同一份权重循环迭代,任意深度都能读出选项概率,由轻量停止器按题决定算几圈,作者把这套做法命名 System 1.5[11]。本条仅据中文报道,未取得预印本编号与逐模型基准数字,逐圈读数是按项目主页记录重绘的回放,未见独立复现[11]。

研究附录

Message threads 的收发规则与没说清的部分

按官方文档,首轮请求带完整 messages,响应里给回线程 ID;后续请求只带新增消息与上一响应 ID,服务端按 ID 找回线程,Claude 每次仍读完整会话[1][2]。线程只留在内存、加密、不写盘,最后一次请求后 5 分钟过期,公告写明 token 用量不变、标准 token 价格与速率限制不变[1]。这意味着省掉的是序列化与传输那一遍,模型侧该读的上下文一个没少;线程也不是持久化会话存储,跨次会话的状态仍要调用方自己保存[2]。

官方没给的部分要单独记:35% 是 50 万到 100 万 token 请求的首 token 等待中位数降幅,没有绝对毫秒值,没有 p95 或 p99,也没有逐模型支持矩阵与总响应时长的变化说明[1]。功能仍是 public beta,官方称默认只对多数 Claude Code 用户开启[1][2]。把这两组限定和 35% 一起抄进选型笔记,比只记一个百分比有用。

一周前的预告与这次落地差在哪

10 月 27 日 Latent Space 那场 107 分钟访谈,节目单 53:25 是 CPU 约束与扩容、56:05 是「Rebuilding the Messages API in Rust」[13]。口述数字有两个:API 服务层 CPU 降约 40% 至 50%,首 token 延迟改善约 10% 至 20%,都是高管估计[14][15]。ExplainX 核查确认访谈存在、时间戳可查,但截至 10 月 31 日没找到 Anthropic 工程博客或变更日志复述这两个数字;博客园的质疑文指出降幅度量的是整体重写加换语言的联合效果,未说明 P50 还是 P99,也不涉及模型本身的生成速度[14][16]。

Cocoloop 的转述把「让服务端暂存 conversation state」列在 Next up[15]。11 月 2 日公测的 message threads 做的是传输侧去重:线程在内存、5 分钟过期、不写盘[1]。两段并置能看出,一周内落地的是省下重复传输,跨次会话的状态存取还没进产品。40% 至 50% 与 10% 至 20% 属自述、无第三方复现,和官方公告里 35% 的口径不同,分开记,别叠成一个数字。

激活分类器的训练与迁移边界

探针取残差流激活,流式每采样一个 token 返回一个 logit;阈值触发后停止继续输出、阻断工具调用,交推理模型复核[3]。训练上,官方写的是通常最多用 100 万条消息,每组超参至少 32 个随机初始化,训练少于 5 个 epoch;报告里约 85% 的表现差异由初始化随机性解释,多输出探针实验里有 3 条分类边界[3]。

对照写得很清楚:文本分类器对固定任务总看到相同输入,探针的输入却是被监控模型的激活,所以模型变强时分类更准,跨后训练检查点迁移良好,跨预训练检查点有限,换基座就要重训[3]。限定同样是官方给的:只能检测已知且可显式训练的行为类型,真实输入会针对安全栈自适应,鲁棒性结论只覆盖测试过的那批;探针是补充而非替代其它防护层,两份公告都没有证明真实事件率已下降[3][4]。图表来自多项内部实验,官方明说未必代表已部署分类器的表现[3]。

PostgreSQL 19 的提交数与归因边界

作者按 4 月 8 日至 9 月 25 日同一区间统计:进入 master 的提交 1037 增至 1443,当期稳定分支回补 724 增至 1169,对更早版本的回补 248 增至 433,稳定分支与跨版本回补的同比增幅下限分别约 60% 与 74%[5]。三个大特性在 8 月 27 日至 9 月 15 日之间被撤回,过去十年大版本基本稳定在 9 月中到 10 月中发布[5]。

归因要按作者的措辞读:他写「似乎更可能」,把增长归给大量人用大模型找旧缺陷,同时说修复仍需人工评审提交、人的判断力一年间没有变化,评审时间被回补分支分散[5]。他说延期本身不严重,长期如何追上四十年存量缺陷没有答案[5]。边界有三条:提交数是自行统计、未剔除其它流程变化;当事人视角,不是项目官方发布公告;11 月 2 日 Hacker News 上的讨论只是转述这组数字,没有新增对照[5][7]。

CLR-Bench:攒清单不等于学会规则

arXiv 2610.40758(10 月 29 日提交)构造 20 条隐藏规则链、覆盖 10 个领域、评测 6 种自进化方法[12]。认证模型下,表现居前的方法相对冻结基线只高不超过 5 分;练习里出现名单外的成员时,智能体把它加进列表,状态在 75% 至 98% 的情况下含该成员、几乎不含类目名[12]。给出命名分组约定的固定提示后,同样方法提升 14.5 至 16.5 分;更强底座下 ACE 与 Dynamic Cheatsheet 达到 78% 准确率、解出 59% 至 60% 单元格,认证模型下对应是 53% 与 8%[12]。直接保留原始练习历史能排除 20% 的未见成员,表现居前的方法只排除 6% 至 12%[12]。

把「状态里存的是被揭示的成员名、几乎没有类目名」当成一条判据:能查到不等于真的归纳出规则,攒清单只是把失败改写成条目。限定照抄预印本:13 页 8 图 11 表、未同行评审,任务是合成的命名分组,不等同真实业务里的经验复用,结论随底座模型变化,单一来源未见独立复现[12]。

对照
A
B
省下的
没省下的
每轮请求里重复的那段历史
模型每次仍要读完的上下文
发出请求到首 token 之间的等待
按 token 计的账单与速率额度
公网上传那一遍序列化与传输
跨次会话接着用的状态

本期排除的候选

AIHOT 当日线索里的 Anthropic 营收与招股更新、OpenAI 融资目标调整属财经与资本市场口径;Grid Protectors 涉及电力公司与政策制定者,按涉政与政策口径放弃;腾讯混元与国内的 Agent 自动化教程属国内线索,按读者重心放弃。三条都只作查漏,站内页不入来源,也未回一手核到可写的机制。上期已写的微软员工自愿离职不重复。

来源与说明

[1]: Make long-running agents faster with message threads —— Claude Blog / 2026-11-02 (https://claude.com/blog/message-threads) [2]: Message threads 文档 —— Claude Platform Docs / 2026-11-02 (https://platform.claude.com/docs/en/build-with-claude/message-threads) [3]: Training and deploying activation classifiers —— OpenAI Alignment / 2026-11-02 (https://alignment.openai.com/training-activation-classifiers/) [4]: How we detect frontier model misalignment —— OpenAI / 2026-10-29 (https://openai.com/index/how-we-detect-frontier-model-misalignment/) [5]: Postgres 19 is late, and its AI fault —— Robert Haas 博客 / 2026-10-30 (https://rhaas.blogspot.com/2026/10/postgres-19-is-late-and-its-ais-fault.html) [6]: Postgres 19 is late, and its AI fault(原载) —— Neon Blog / 2026-10-30 (https://neon.com/blog/postgres-19-is-late-and-its-ais-fault) [7]: Postgres 19 is late because so many more bugs are being found now —— Hacker News / 2026-11-02 (https://news.ycombinator.com/item?id=50312408) [8]: Updated Model Spec —— OpenAI / 2026-10-29 (https://openai.com/index/updated-model-spec/) [9]: Model Spec(2026-10-29)全文 —— OpenAI / 2026-10-29 (https://model-spec.openai.com/2026-10-29.html) [10]: OpenAI 重写大模型法则,第一条:忠于人类 —— 量子位 / 2026-11-02 (https://www.qbitai.com/2026/11/507225.html) [11]: 让决策模型学会「难题多想」:Lev 用循环代替思维链 —— 机器之心 / 腾讯新闻 / 2026-11-02 (https://news.qq.com/rain/a/20261102A04FJ800) [12]: More Rules, Longer Lists? Benchmarking Self-Evolving Agents on a Hidden-Rule Curriculum —— arXiv 2610.40758 / 2026-10-29 (https://arxiv.org/abs/2610.40758) [13]: How Anthropic ships the #1 LLM in the World safely(节目单与时间戳) —— Latent Space / 2026-10-27 (https://syncai.news/article/how-anthropic-ships-the-1-llm-in-the-world-safely-separating-the-brain-from-the--a3f437) [14]: Anthropic Rewrote the Messages API in Rust With Claude: Claimed vs Verified —— ExplainX / 2026-10-31 (https://explainx.ai/blog/anthropic-messages-api-rust-rewrite-claude-wrote-code-cpu-40-50-percent-claimed-vs-verified-2026) [15]: Anthropic rewrites Messages API in Rust, cutting CPU use 40-50% —— Cocoloop / 2026-10-30 (https://news.cocoloop.cn/en/2026/10/anthropic-messages-api-rust) [16]: 零 Rust 经验重写核心 API?先别急着热血沸腾 —— 博客园 / 2026-11-01 (https://www.cnblogs.com/wintersun/p/23519157) [17]: Hacker News 当日热帖列表(查漏线索) —— Hacker News / 2026-11-02 (https://news.ycombinator.com/front?day=2026-11-02)

← 晨报归档