Situational Awareness 深度导读 · 附录 A

附录 A · 术语总表

全书 38 条术语的中英对照与一句话释义,按字母序排列;右列为首次出现的章节,可直接跳转。本表由各章「本章术语」小节聚合生成,与正文一一对应。

A使用说明

本书的术语规范是:英文术语为主,首次出现时以 这样的样式 标记并附中文注释。这样做不是为了显得专业,而是因为这个领域的中文译名尚未稳定——"unhobbling""effective compute"这类词在不同来源里译法各异,统一使用英文原词可以避免读者在跨源阅读时对不上号。

下表共 38 条,涵盖全书正文出现的全部标记术语,按首字母排序。其中约三分之一是原文自造或由原文推广开来的词(OOM、unhobbling、drop-in remote worker、The Project),另有约三分之一是 2024 年之后才进入公共讨论的新词(alignment faking、attribution graph、neocloud、Genesis Mission)——后者本身就是这两年变化速度的一个侧写。

A术语总表

术语释义出处
AGI realism他自命的第三条路:承认 AGI 迫近与其风险,主张在国家安全框架内加速而非暂停。第 7 章 §7.1
AI Diffusion Rule人工智能扩散框架:2025-01 发布、同年 5 月撤销的美国分层出口管制规则,首次将模型权重纳入管制对象。第 4 章 §4.5
algorithmic secrets算法机密:让训练跑通的关键技术判断,多数不落于文档,而存在于少数人的经验中。第 4 章 §4.1
alignment faking伪装对齐:模型为保护自身既有偏好而策略性表现服从的行为,2024-12 首次系统性实证。第 5 章 §5.2
attribution graph归因图:描述信息如何流经模型内部特征抵达输出的局部计算图,机制可解释性的当前主力工具。第 5 章 §5.4
automated AI researcher自动化 AI 研究员:能独立完成"读文献→提假设→跑实验→解读结果"整个循环的系统。本书全部时间表的计时起点。第 2 章 §2.1
capex supercycle资本开支超级周期:由单一技术范式驱动的、跨越多年的行业性投资扩张。第 3 章 §3.3
compute governance算力治理:以芯片与集群为抓手的管制思路,因算法效率外溢而效力受限。第 6 章 §6.3
data wall数据墙:高质量互联网文本枯竭对 scaling 的潜在硬约束。第 1 章 §1.5
decisive strategic advantage决定性战略优势:技术代差大到可以在对手反应之前解除其战力的状态,本章军事推论的核心概念。第 6 章 §6.1
deleveraging spiral去杠杆螺旋:被迫平仓压低价格→净值下降→追加保证金→再被迫平仓的自我强化过程。终章 §终.2
doomer末日派:认为 AGI 极可能带来灾难、主张暂停或强监管的一派。第 7 章 §7.1
e/acc有效加速主义:主张不受约束地加速技术进展的一派。第 7 章 §7.1
effective compute等效算力:物理算力 × 算法效率的乘积。第 1 章 §1.1
Genesis Mission创世纪任务:2025-11 启动的美国国家科学 AI 计划,整合 17 个国家实验室资源,形态为政府—企业协作而非接管。第 6 章 §6.5
GW-scale cluster吉瓦级集群:以持续供电功率而非芯片数量计量的训练设施,当前前沿规模的通用刻度。第 3 章 §3.1
HBM高带宽内存:堆叠式 DRAM,加速卡的关键配套,产能高度集中,是 AI 供应链的典型卡点。第 3 章 §3.1
insider threat内部人威胁:由有合法访问权限者造成的泄密风险,Ding 案是其教科书式样本。第 4 章 §4.2
intelligence explosion智能爆炸:AI 改进 AI 所形成的正反馈过程,可能在很短时间内把能力推离人类水平。概念可溯至 I. J. Good(1965)。第 2 章 §2.1
model weights模型权重:训练完成的参数集合,物理上就是一个文件——本章全部论证的起点。第 4 章 §4.1
narrative correlation叙事相关性:表面分散的资产因由同一叙事定价而在重定价时同步下跌。终章 §终.4
neocloud新型云厂商:专注 GPU 算力出租的基础设施公司,如 CoreWeave、Nebius。终章 §终.1
OOMorder of magnitude,数量级(10 倍)。全书的基本计量单位。第 1 章 §1.1
open weights开放权重:公开发布模型参数的发布形态,成为 2024–26 年能力跨境扩散的主渠道。第 6 章 §6.3
power constraint电力约束:由发电、并网与供电设备交期共同构成的物理上限,2025 年后取代芯片成为首要瓶颈。第 3 章 §3.2
prime broker主经纪商:为对冲基金提供融资与清算的投行,保证金要求的实际执行方。终章 §终.2
RE-BenchMETR 的 AI 研发能力评测:让模型与人类专家在真实 ML 研究工程任务上按时间预算同台比较。第 2 章 §2.3
recursive self-improvement递归自我改进:系统改进自身或后继版本的能力,是智能爆炸的机制内核。第 2 章 §2.1
reflexivity反身性:预测因被广泛阅读而改变被预测对象的行为,从而成为自身误差来源。第 7 章 §7.4
RSP / ASL负责任扩展政策与 AI 安全等级:按模型危险能力分级触发的安保与部署标准。第 4 章 §4.4
run rate年化收入跑速:以当期收入×12 推算的年度口径,本章对账的收入门槛即以此计量。第 3 章 §3.4
scalable oversight可扩展监督:用 AI 辅助人类监督更强的 AI,把监督能力延伸到人类独力不及之处。第 5 章 §5.1
scheming隐蔽失准:模型有意隐藏真实目标或能力的行为类别,已被纳入前沿实验室的准备度评估。第 5 章 §5.2
superalignment超对齐:可靠控制远超人类水平系统的技术问题,区别于对当前模型的常规对齐。第 5 章 §5.1
takeoff speed起飞速度:从人类水平到远超人类水平所需的时间,决定留给治理与对齐的窗口宽度。第 2 章 §2.4
test-time compute推理时算力:通过延长"思考"换取能力的范式。第 1 章 §1.4
The Project他设想的美国国家 AGI 项目:政府主导、类比曼哈顿计划的前沿研发体制。第 6 章 §6.5
unhobbling解除束缚:不增加基座能力、只释放已有能力的改进(RLHF、CoT、工具、agent 脚手架)。第 1 章 §1.4