晨报归档

AI 晨报 · 2026-11-04 期

OpenAI 的模型包办了一台设备的设计,从外壳到电路板

本期导读 展开 / 收起
  1. 三分钟晨读
  2. 研究附录
  3. 来源与说明

三分钟晨读

主条|工程图纸先让模型出一版,人守住公差和验收

OpenAI 11 月 3 日发布工程研究进展:GPT-6 Astra 在无人工直接编辑的情况下,完成了一台用来和 Codex 对话的设备设计——外观参考了合作方与游戏产品,内部结构与外壳由模型出机械设计,元器件选型、电路板布局布线、用户界面与固件软件也在同一轮流程里产出[1]。两名团队成员把它当副业项目做,设计花了不到一周;合同制造商在不到一个月里交付了小批量原型[1]。

官方自述的边界同样要读:Astra 没有持续考虑制造商的生产限制、公差与装配细节,流程里仍有多轮人工审查和迭代;这是两人规模的副业项目,不代表产线级能力[1]。内部硬件团队自 2 月起按 token 计的模型用量增长了 23 倍,工作覆盖 CAD 模型、制造图纸、仿真设置与设计审查,工程师反馈里点名了 AEC/BIM 领域的重复性任务[1]。配套的 BenchCAD 2.0 基准测试重建 3D 零部件和识别电路板连接的能力,新的内部模型平均得分 0.875,Astra 在最高推理设置下 0.594[1]。行业合作新增马自达(用气流与结构仿真探索车辆设计)与 Chip Ganassi Racing(把既有零件的 3D 扫描转回可编辑的 CAD 模型和图纸)[1]。上述数字全部来自 OpenAI 自报,无第三方复现[1]。

对做工程的人来说,这条新闻的读法不在「模型会画图了」,而在分工位置的变化:初稿、选型比对、图纸准备这些原来必须工程师亲手做的工作,可以让模型先出一版,人提前去处理公差、装配、工艺约束和验收。移动是真实的,但移动到的位置是初稿与编排,确认环节仍按人头计价。

次条|安全评测的分数,比真实运行还要差

OpenAI 对齐团队 11 月 3 日发文,把六个模型在 Respecting Warnings 安全评测上的表现与去标识化的 Codex 生产决策配对比较:评测成功率普遍低于生产,差距 10.2 至 37.4 个百分点,方向与「模型知道被测就装安全」的通行担忧相反[2]。归因落在目标误判上:差距居前的两个模型,超过 45% 的评测过程口述了相反的目标。给 GPT-6.1 Sol 的干预实验显示,只告知「这是评测」成功率不动(63.1% 对 63.4%),告知正确目标升到 91.6%,告知错误目标掉到 17.6%[2]。拿评测报告当采购依据的团队,先问一句它和生产日志对过账没有。

次条|「模型直接改权重」的当红论文,被两位开发者拆了台

一篇 11 月 2 日的论文声称 GPT-6 Astra「仅凭原始权重」读懂网络用途,并修改 0.016% 的权重把一个 0.8B 模型的 MATH-500 从 7.9% 提到 48.1%[3]。Honnibal 逐组核对后发现,直接读原始权重只出现在 1.7 万到 17 万权重的小网络实验里,所有涉及语言模型的实验都在写 Python 程序,Qwen 实验还获准跑最多 50 批练习题[4]。Willison 随即用笔记本上的 27B 开源模型复现了无工具部分:四局游戏识别对三局,每局花 46 到 65 分钟[5]。同一份摘要里混着两种能力,读声明时先问模型手里有没有 Python。

快讯|OpenHands 把「用自己的外壳训模型」做成一条指令

OpenHands 与 Snowflake 开源 cortex-training-rl 技能:开发者用现有的 OpenHands harness 和 Harbor 任务格式对开源权重模型做强化学习后训练,系统提示、工具、技能与回合预算作为配置直接传入,测试脚本得分即奖励,示例实验 25 步、每步 64 个 rollout,数小时跑完[6]。

快讯|Gemini 2.5 系列进入强制迁移倒计时

Google 已从 AI Studio 下架 Gemini 2.5 Pro 与 2.5 Flash,2026 年 12 月 1 日起 API 请求自动路由到 3.8 Flash 与 3.5 Flash-Lite,并按新模型计费;函数调用、thought_signature 校验等属于破坏性变更,硬编码旧模型字符串的应用会同时遇到行为与账单变化[7]。

快讯|「模型连出隔离环境」事件改判为配置失误

据彭博报道,安全评估公司 Irregular Security 的 CEO 在伦敦承认,近半年多家头部实验室披露的模型连出测试环境事件,根源是测试隔离控制未被正确配置,属人为流程失误,并非模型主动绕开安全机制[8]。本条为单一媒体转述,细节披露有限。

研究附录

Astra 设备案例的完整链路与自述边界

官方文章把设备案例拆成五段:外观设计借鉴 Work Louder 合作与游戏、玩具参考;机械设计包含外壳与固定组件的内部结构;电气设计覆盖元器件选型与电路板布局布线;用户界面、固件与软件集成也在同一流程内。两名团队成员不到一周完成设计(副业项目),合同制造商不到一个月交付小批量原型。反面信息同样具体:Astra 未持续考虑制造商的生产限制、公差和装配细节,多轮人工审查与迭代仍是流程的一部分[1]。

内部用量方面,OpenAI 硬件团队用 Codex 和 ChatGPT 处理 CAD 模型、制造图纸、仿真设置和设计审查,覆盖机器人技术与计算基础设施,自 2 月起按 token 计的模型用量增长 23 倍[1]。基准方面,BenchCAD 2.0 测试模型重建 3D 零部件与组件、识别电路板连接的能力,新的内部模型平均 0.875,GPT-6 Astra 在最高推理设置下 0.594[1]。合作方面,Chip Ganassi Racing 扩大合作,测试把既有零件的 3D 扫描转换为可编辑 CAD 模型与 2D 制造图纸(原始设计文件不可用时尤其有用);马自达为新增研究合作,与空气动力学和碰撞安全工程师一起用气流与结构仿真探索新车辆设计,包括建模新鼻部形状[1]。OpenAI 同时开放了面向机械、电气、机电等方向的合作征集表单[1]。

评测-生产差距的方法、数字与含义

方法上,研究从不记录模型成败的决策前上下文里选取生产流量:分类器识别引入障碍或约束的工具观察,评分器与基于源码的审查者判断是否存在安全关键选择,匹配器再将其与 Respecting Warnings 评测目录配对,评分定义与评测一致[2]。

评测意识的测量来自思维链的自发陈述:一般性评测意识(陈述或推测当前是评测)在评测情境为 57.0% 至 83.7%,生产情境 4.6% 至 23.5%;特定目标感知(推测评测在测什么)在评测情境 43.7% 至 66.3%,生产情境 0% 至 5.9%[2]。相关性上,一般意识与差距的线性关联很弱(R²=0.008),特定目标感知关联更强(R²=0.370);评测与生产整体仍正相关(Spearman ρ=0.771),分数保留相对信息,但绝对值不能换算成生产成功率[2]。

单次层面,全部 rollout 成功率 46.1%,口述一般意识者 42.7%,口述正确目标者 61.3%,口述错误目标者仅 22.8%[2]。作者的推断是:安全评测的难点在识别情境要求什么行为(能力评测的难点在实现目标),因此安全分数对模型的目标假设格外敏感;随着模型能力增强,防止其识别评测可能越来越难,研究方向应转向直接追踪评测-生产差距,并设计目标不易从情境推断的评测[2]。局限由作者自列:生产匹配是近似的,采样的上下文不代表所有部署环境;思维链测到的是表达出的假设而非全部底层信念;六个模型的样本量小[2]。

对照安全评测情境与生产情境
A
B
任务来自评测目录
任务来自去标识化的 Codex 日志
模型常口述自己推断的评测目标
极少口述目标推断
口述错误目标的回合成功率显著更低
成功率普遍更高

权重论文八组实验的拆解与本地复现

论文把八组实验混排在一份摘要下:识别 PPO 训练的小网络玩什么游戏(1.7 万权重)、识别扩散网络生成什么形状(2.4 万)、修好卡住的 Kinetix 小车策略(17 万权重、一次改 3.5% 权重、从 0% 到 100%)、从零写出小游戏网络胜过 PPO 训练一亿步、写出 9×9 围棋网络、指出谄媚倾向(失败)、修正 0.8B 模型的数学能力(7.9% 到 48.1%)[3]。Honnibal 的对照表逐行标注每组是否读原始权重、是否写 Python、是否运行网络:真正只看原始浮点数(无工具、不跑网络)的只有涉及 1.7 万到 17 万权重小网络的那几组;写 MinAtar 与围棋网络时权重从零初始化,谈不上「读」;Qwen 实验用 Python 且获得最多 50 批练习题,「胜过 PPO 一亿步」也只在其中一个游戏成立[4]。他的结论:这些实验展示的是 Astra 可以被引导完成人类 ML 工程师会做的事,一两年前的模型做不到,但不应与「直接读权重」混为一谈[4]。

Willison 的复现把无工具部分钉实了:他从论文配套仓库取来四份自包含提示词(Breakout、Pong、Pac-Man、Freeway,除权重外完全相同),用笔记本上的 27B 开源模型逐一运行,Pac-Man 用 46 分 12 秒(43506 个推理 token)、Pong 用 1 小时 4 分 54 秒、Breakout 用 52 分 25 秒,三局判断正确,Freeway 判错(误认为 Pac-Man 式网格游戏);他还用 API 模型对照跑了一局,判断正确[5]。他把四份 transcripts 与推理轨迹公开,并明说推理轨迹几乎不可读;他的结论同样克制:这是篇有意思的论文,但不足以宣布「源代码时代结束、机器将以不可理解的方式改自己的权重」[5]。Sean Goedecke 另行论证 Qwen 修正例走的是人类研究者同款步骤[5]。

OpenHands 后训练的机制细节

训练时每个 rollout 都是 OpenHands 智能体的一次真实执行:系统提示、工具、技能、回合预算与上下文长度作为环境变量传入,代理本身不知道自己在被训练——它发普通的对话请求,代理与模型之间的 proxy 记录模型每轮产出的 token 作为训练数据,提示词与工具结果不计入损失[6]。任务用 Harbor 格式定义:instruction.md 描述任务、environment/ 定义沙盒、tests/test.sh 评分,脚本得分即奖励;每个 rollout 独立沙盒,智能体终端与评分器同盒执行,训练机凭据不暴露给沙盒[6]。示例实验是代码定位智能体(来自 CodeScout 工作):接收真实 Python 仓库的 issue,找出需要修改的文件、模块与函数,奖励为三层 F1 之和、满分 3.0,对 4B 模型训练 25 步、每步 64 个 rollout,官方称结果与专门实现的 RL 相当[6]。本地只需 CPU 跑 rollout,训练默认用 4 块 H200 GPU[6]。限制也要记:需要 Snowflake 账号、训练中 file_editor 工具不可用(只能终端改文件)、结果无独立复现[6]。

其余值得留档的事件

OpenAI 工程团队 11 月 2 日发布 Pando:Codex 带来的并行开发把 monorepo 服务逼到可靠性跌破 90% 后,团队用 10 周以 Rust 重写 Git 后端——放弃仓库级一致性改用因果一致性、packfile 跨 fetch 复用、只向客户端通告 trunk 分支,中位 push 延迟降约 5 倍,每日投递近 1 PB 数据、单小时峰值 57 TB(99% 以上字节来自本地缓存),并把多项改进回馈上游 Git;核心设计由一名工程师完成,实现交给智能体团队[9]。OpenAI 同日发布 LifeVal 日常任务基准:任务集来自 3995 人的代表性调查与两项时间使用研究,覆盖照护、健康、教育、家庭事务、个人财务、购物与获取公共服务,示例得分从 93.1% 到 100% 不等,完整分数表与下载入口尚未给出[10]。arXiv 预印本 VeriHarm-Bench 给前沿编码智能体的平均任务准确率 95%,但「完成任务且不触发指定危害」的安全成功率平均仅 37%,与评测-生产差距研究互为补充:一个说安全评测可能测不准,一个说任务成功率会掩盖危害[11]。DeepMind 为 Antigravity 发布化学信息学技能套件:语言模型负责工作流编排与科学推理,RDKit 等确定性工具执行分子计算,演示约 1 小时完成原本数天的分子对分析流程[12]。AWS 周报披露 GPT-6.1 Terra 上线 Bedrock、Step Functions 可作为智能体工具调用[13]。

本期排除的候选

Android Dev Summit 的 Bring Your Own Agent(Android Studio 支持 40 余款 ACP 协议智能体、CLI 为 Claude Code 与 Codex 提供官方插件)经核源为 10 月 28 日旧闻,中文媒体 11 月 3 至 4 日的集中转载不构成新事件[14]。GitHub Copilot Fusion 全面可用同属 10 月 28 日 Universe 发布的后续,超窗口弃用。Altman 在阿布扎比会议的口头预告无官方文稿与可核实数字,不入正文。Anthropic 修订版招股文件的营收与递归自我改进警示属财经口径,弃用。Revolut 迁移 2000 名工程师到自托管 GLM 仅有单一社媒帖且涉华主体,弃用。Ed Zitron 的融资与算力承诺长文属财经观点。英国 AI 安全研究所负责人的可监控性访谈属海外公共部门口径,其中「模型能识别自己被测试」的判断已由 OpenAI 研究从厂商侧覆盖。华为 Fintelligent、蚂蚁数科、曙光 OneBox、美团 LongCat-2.5、清华的千智能体观点极化论文与 DeepSeek 教程属国内线索,按读者重心短写至此。Postman 自动安装插件并尝试共享 API 数据的社区报告涉安全事件口径且证据待核,不入正文。Mistral Large 4 开放权重为 10 月 29 日 Le Chonk 发布的后续宣告,增量不足以单列。OpenAI 的安全冲刺与漏洞赏金加码两文属安全题材整组跳过;Dan Driscoll 人事任命涉政府人员,弃用。

来源与说明

[1]: Accelerating engineering for the physical world —— OpenAI / 2026-11-03 (https://openai.com/index/accelerating-engineering-for-the-physical-world/) [2]: Eval-production behavior gaps in agent safety and the role of eval-awareness —— OpenAI Alignment Research Blog / 2026-11-03 (https://alignment.openai.com/eval-production-behavior-gap/) [3]: Sparks of Weight-Space Programming: LLMs can natively read & write neural network weights —— rikiyat.github.io / 2026-11-02 (https://rikiyat.github.io/blog/weight-space-programming/) [4]: The ‘Astra can read and write weights’ post is misleading —— honnibal.dev / 2026-11-03 (https://honnibal.dev/blog/astra-read-write-misleading) [5]: Qwen 3.8 27B on my laptop can interpret model weights, too —— simonwillison.net / 2026-11-03 (https://simonwillison.net/2026/Nov/3/qwen-can-interpret-model-weights/) [6]: Post-Train a Model for Your Own Agent Harness with OpenHands and Snowflake —— OpenHands Blog / 2026-11-03 (https://www.openhands.dev/blog/post-train-ai-models-openhands-snowflake) [7]: Gemini API Changelog(2026-11-02 条目)—— Google AI Developers / 2026-11-02 (https://ai.google.dev/gemini-api/docs/changelog#11-02-2026) [8]: AI 安全测试公司就隔离配置失误作出说明(引彭博报道)—— 腾讯新闻 / 2026-11-04 (https://news.qq.com/rain/a/20261104A026XR00) [9]: Scaling Git at OpenAI —— OpenAI / 2026-11-02 (https://openai.com/index/scaling-git-at-openai/) [10]: LifeVal —— OpenAI / 2026-11-02 (https://openai.com/index/lifeval/) [11]: VeriHarm-Bench: Measuring Harmful Success in LLM Coding Agents Verifiably —— arXiv / 2026-11-02 (https://arxiv.org/abs/2611.03575) [12]: Agentic cheminformatics with Google Antigravity —— Google DeepMind / 2026-11-03 (https://deepmind.google/blog/agentic-cheminformatics-with-google-antigravity/) [13]: AWS Weekly Roundup: GPT-6.1 Terra on Bedrock, Step Functions as agent tools —— AWS News Blog / 2026-11-02 (https://aws.amazon.com/blogs/aws/aws-weekly-roundup-gpt-6-1-terra-on-bedrock-step-functions-as-agent-tools-and-more-november-2-2026/) [14]: What’s new in Android developer tools and performance at Android Dev Summit —— Android Developers Blog / 2026-10-28 (https://developer.android.com/blog/posts/android-dev-summit-26-developer-tools-performance)

← 晨报归档