Situational Awareness 深度导读 · 第 1 章

第 1 章 · 从 GPT-4 到 AGI:数数量级

对应原文 Part I: From GPT-4 to AGI — Counting the OOMs。全书对账密度最高的一章:三条曲线、一堵数据墙,和那句著名的 2027 预测。
effective compute(log) + 物理算力 + 算法效率 + unhobbling 2027 →

1.1论点地图:一条只有四步的推理链

整个 Part I 的论证结构其实非常紧凑,可以压缩成四步:

第一步,回望。GPT-2(2019)到 GPT-4(2023)的四年,模型从"勉强连贯的学龄前儿童"跃迁到"聪明的高中生"。这不是修辞,而是他用来锚定能力刻度的类比坐标系。

第二步,分解。这次跃迁可以被拆成三个可量化的驱动因素:物理算力(每年约增长半个数量级)、算法效率(每年也约半个数量级,相当于"免费算力")、以及 unhobbling(解除束缚:RLHF、思维链、工具使用、更长上下文——把底层能力释放出来的那类改进)。

第三步,外推。如果三条曲线延续到 2027,累计又是一次 GPT-2→GPT-4 量级的跃迁(约 5 个 OOM(order of magnitude,数量级)的 effective compute,外加 unhobbling 收益)。

第四步,落点。高中生再往上跳一个"GPT-2→GPT-4",落在哪?他的答案:能够完成 AI 研究员/工程师工作的系统——也就是 AGI。他对这件事的措辞是 "strikingly plausible"(惊人地可能),而非"必然"——这个措辞上的保留,是后文批评与辩护双方反复争夺的阵地。

这条链的两端各钉着一句可以当坐标原点用的原话。起点处,他把整套方法论压缩成一句近乎信条的表述:

"The models, they just want to learn; you scale them up, and they learn more."
中文释义:模型是"想学"的——你把它放大,它就学到更多。

这句话的分量不在于它解释了什么机制——它其实什么机制都没解释——而在于它把举证责任调了个方向。在这个框架里,需要被解释的不再是"为什么模型会继续变强",而是"它凭什么会停下来"。Part I 的说服力至少有一半来自这次责任转移:一旦读者默认"继续"是缺省状态,每一条趋势线的延长就都不必再单独辩护;反过来,反对者若想反驳,就必须端出一个具体的停滞机制,而这比说一句"外推不可靠"要难得多。这也是为什么后文那些看似强硬的批评,读起来常常像是在绕着这条推理链打转,却很难正面击穿它。

终点处,他罕见地把自己的认识论前提整个摊开:

"In any case, we are racing through the OOMs, and it requires no esoteric beliefs, merely trend extrapolation of straight lines, to take the possibility of AGI—true AGI—by 2027 extremely seriously."
中文释义:无论如何,我们正在飞速穿过一个个数量级;要认真对待 2027 年出现真正 AGI 的可能性,不需要任何玄妙的信念,只需要把直线外推下去。

请注意这句话的防守姿态。他要求读者接受的不是"2027 年一定有 AGI",而是"认真对待这个可能性的门槛很低"——这是一种把结论强度与前提强度精确挂钩的写法:前提越弱(你只需要相信直线会延续),结论就越难被正面反驳。代价也同样清楚:这句话把整篇文章的失效条件一并写了出来。直线一弯,楼就没有地基。§1.7 的四种批评,本质上全部是在争夺这条直线的斜率与拐点位置;而终章会展示,这种"低前提、强结论"的论证结构一旦被 4 倍杠杆放大成仓位,它的失效条件会以何等昂贵的方式结算。

值得注意的是这条推理链的形状:它不依赖任何新的科学突破,只依赖"趋势延续"。这既是它的说服力来源(每一步都有历史数据背书),也是它全部的脆弱性所在(任何一条曲线弯折,结论就塌)。导读的对账工作,本质上就是逐条检查这三条曲线在 2024–2026 有没有弯。

1.2第一条曲线:物理算力

他的论证:前沿训练算力长期以每年约 0.5 OOM 的速度增长,资金和意愿都不是瓶颈——真正的约束会逐渐从"钱"转移到"电力和芯片产能"(这个话题在 Part IIIa 全面展开,本章只是埋线)。

对账 · 2026
原文主张:前沿算力将持续每年约半个数量级的扩张,GW 级集群将成为现实。
✅ 已验证(方向)

算力扩张曲线在这两年不仅没有弯折,甚至超出多数怀疑者的预期:2025 年 1 月公告的 Stargate 项目计划投入数千亿美元建设 AI 基础设施;xAI 的 Colossus 集群在一年内从 10 万卡级扩张到数十万卡级;"电力是新瓶颈"从他文中的小众论断变成了 2025–26 年行业与政策讨论的主流共识。

1.3第二条曲线:算法效率

这条曲线最容易被外行忽略,但他给了它与物理算力同等的权重:达到同一能力水平所需的算力,每年下降约半个数量级。换句话说,即使芯片一块不加,模型也在"自动变便宜"。他把这称为 effective compute 的隐形分量。

对账 · 2026
原文主张:算法效率将继续贡献每年约 0.5 OOM 的等效算力增长。
✅ 已验证

2025 年初 DeepSeek V3/R1 以远低于西方前沿实验室的训练成本逼近第一梯队能力,是这条曲线最有戏剧性的公开注脚;推理成本方面,同等能力的 API 价格在两年间下降了一个数量级以上。有趣的是,这条曲线的成立同时也削弱了他在 Part IIId 中"算力差距=能力差距"的地缘判断——算法效率是会扩散的。这个内在张力我们留到第 6 章展开。

1.4第三条曲线:Unhobbling,被低估的主角

回头看,这是 Part I 预测力最强的部分。他的观点:基座模型的原始能力(raw capabilities)远超我们从聊天界面里看到的表现,而把这些能力释放出来的改进——从 RLHF、CoT(chain-of-thought,思维链)到工具使用、长上下文,再到 agent 化脚手架——每一项都相当于凭空多出若干等效算力。他特别点名了两个当时尚未兑现的方向:test-time compute overhang(让模型"思考更久"的巨大未开发空间)和从聊天机器人到"drop-in remote worker"(即插即用的远程员工)的形态跃迁。

对账 · 2026
原文主张:test-time compute 是一个巨大的待释放空间。
✅ 已验证(几乎是点名命中)

文章发布三个月后,OpenAI o1(2024-09)开启推理模型范式;此后"让模型思考更久换取能力"成为全行业的主要 scaling 方向之一。这是全文技术预判中兑现最快、最干净的一条。

对账 · 2026
原文主张:模型将从聊天机器人进化为 agent,最终成为"即插即用的远程员工"。
🟡 部分验证

前半句已成现实:编码 agent(如 Claude Code 一类工具)在 2025–26 年成为软件开发的日常基础设施,computer use 类能力商用化,METR 的测量显示模型可自主完成的任务时长在不断翻倍:2025 年 3 月的首版研究给出的是约每 7 个月一次,2026 年 1 月的更新版(Time Horizon 1.1)估计 2023 年以来约每 4 个月、2024 年以来约每 3 个月一次。一个最新的点:METR 2026 年 6 月对 GPT-5.6 Sol 的评估给出约 11.3 小时的 50% 时间跨度(95% 区间 5–40 小时),但 METR 注明由于模型作弊,这个数字不构成稳健测量。后半句尚未兑现:截至 2026 年 10 月,模型是极强的"任务执行者",但还不是可以整职位交付的"远程员工"——长程可靠性、跨日记忆与真实组织环境的适配仍是断点。

1.5数据墙:他自己承认的最大变数

Part I 并非全是顺风论证。他专门讨论了 data wall(数据墙:互联网高质量文本即将被用尽),承认这是外推的最大风险,同时下注:合成数据、自博弈(self-play)和强化学习会绕过它——理由是人类也不是靠读完互联网变聪明的。

对账 · 2026
原文主张:数据墙不会终结 scaling,合成数据与 RL 将绕过它。
🟡 部分验证

在可验证奖励的领域(数学、代码),RL + 合成数据的路线大获成功——2025 年 7 月,实验模型在 IMO 达到金牌线成绩,数学与编程基准全面突破。但在奖励难以验证的开放域(长篇写作质量、真实世界判断),"绕过数据墙"的证据仍然模糊。准确的说法是:数据墙被打穿了几个洞,而非整体拆除。

1.6那句著名的预测,以及它现在的状态

Part I 的落点——2027 年出现能做 AI 研究员/工程师工作的模型——是全书被引用最多、也最容易被简化误读的一句。注意他的原始表述有两层缓冲:一是"strikingly plausible"而非确定性预言;二是他定义的里程碑是特定职业能力(自动化 AI 研发),而不是哲学意义上的通用智能。

对账 · 2026
原文主张:2027 年,模型有望胜任 AI 研究员/工程师的工作。
⏳ 尚无法判定(距离到期还有约 14 个月)

中期检查:方向对,进度存疑。支持侧——前沿实验室开始给出带日期的内部数字:Anthropic 2026 年 8 月的《Risk Report》称 Claude 已撰写其合入生产代码库的大部分代码,内部 AI 研发因 AI 明显提速,但还不到两倍;OpenAI 称 8 月中旬其研究部门每个人类工作日对应约 3.1 个 agent 工作日(据其自述,为初步内部测量)。AI 加速 AI 研发的飞轮初步转动;基准侧模型已在多数专家级考试类评测上达到或超过人类专家。存疑侧——Anthropic 同时承认,截至 8 月 Claude 在任何被测的 AI 研发子领域都还没有完全自主运行;METR 9 月对 Claude Opus 5.5 的评估认为它不太可能完全自动化 AI 研发;"研究员的工作"里最难的部分(提出好问题、数月尺度的项目自主性、从失败中改变研究方向)尚无模型级别的公开证据。"代码占比"一类数字的口径问题,见下方 Redwood Research 的分析。本条对账将在 2027 版修订中给出终审。

1.7当时的批评:四种反对意见及其现状

其一,外推主义。"在对数坐标上画直线"是当时最响亮的批评(Gary Marcus 等):历史趋势不构成未来保证,S 曲线的顶部在到达之前长得和指数一模一样。两年后的裁决:曲线暂时没弯,但这个批评在逻辑上永不失效——它只会被逐年推迟,不会被证伪。

其二,基准 ≠ 工作。Chollet 等人主张,考试型基准的饱和不代表通用能力。这条批评在 2026 年看反而升值了:基准全面爆表与"drop-in remote worker"尚未出现之间的落差,恰好落在这个批评预留的空间里。

其三,数据质量论。合成数据会导致模型退化(model collapse)的担忧,在可验证域被实践否决,在开放域仍是活的争论。

其四,扩散滞后论。即便能力到位,经济与组织的吸收速度远慢于技术曲线。这条在 2026 年基本被验证为正确——但它攻击的是"影响时间表"而非"能力时间表",与他的主张实际上错身而过。

最后留意第一条批评的特殊性质:"直线外推"的反对在逻辑上不可证伪,只能被逐年推迟。它无法告诉你曲线会不会弯,但它能约束的是你基于曲线所做承诺的不可逆程度——这条线索,将在终章 Aschenbrenner 本人 400% 杠杆的基金复盘中收束。

1.8本章记分牌

原文主张裁决
物理算力持续 ~0.5 OOM/年扩张,GW 级集群出现✅ 已验证
算法效率持续 ~0.5 OOM/年✅ 已验证
test-time compute 是巨大待释放空间✅ 已验证
agent 化 → drop-in remote worker🟡 部分验证
数据墙将被合成数据 + RL 绕过🟡 部分验证
2027:模型胜任 AI 研发工作⏳ 待 2027 终审

本表与本章 6 张对账卡一一对应;全书总记分牌见第 7 章。

1.9本章术语(入总表)

术语释义
OOMorder of magnitude,数量级(10 倍)。全书的基本计量单位。§1.1
effective compute等效算力:物理算力 × 算法效率的乘积。§1.1
unhobbling解除束缚:不增加基座能力、只释放已有能力的改进(RLHF、CoT、工具、agent 脚手架)。§1.4
data wall数据墙:高质量互联网文本枯竭对 scaling 的潜在硬约束。§1.5
test-time compute推理时算力:通过延长"思考"换取能力的范式。§1.4