AI Systems Engineering Handbook

AI 系统工程手册 写给应用层工程师的 LLM 系统知识地图

从「模型怎么跑起来」到「怎么跑得又快又省」,再到「怎么让它做事、怎么把它养在生产环境里」。中文为主,技术术语保留英文原文。

共 导读 + 6 Part · 29 章 附录 3 篇 支持 深色模式 / 打印导出 PDF

怎么读这本书 · 知识分层是全书最重要的约定。正文只写原理层——为什么存在、解决什么问题、18 个月后依然成立的部分。所有会过期的内容(工具名、版本、参数、价格)一律放进虚线框的工具层侧栏并标注「截至 YYYY-MM」,或集中在附录 A。读正文建立判断力,读侧栏解决今天的问题。

建议先读 Part 0 导读;Part 1→6 是「用 → 调 → 养」的递进顺序,但每章可独立阅读。

Part 0

导读

怎么读这本书
Part 1

LLM 推理基础 · Inference Fundamentals

模型是怎么跑起来的
Part 2

模型服务与成本工程 · Serving & Cost

怎么跑得又快又省
Part 3

RAG 与上下文工程 · RAG & Context

怎么让模型知道它不知道的事
Part 4

Agent 设计模式 · Agent Design Patterns

怎么让模型做事而不只是说话

配套练习:把这一 Part 的原理放进开放式设计题里练(限时交卷、逐层追问),见姊妹篇《Agent 设计面试手册》。

Part 5

Training / Fine-tuning

贯穿案例:把任务蒸馏到自托管小模型
Part 6

生产化 · Production

可观测性、安全与失败模式
Appendix

附录

易过期内容集中存放