想象把 537 个点完全随机地撒在一张分成 576 个格子的地图上。平均下来每格差不多一个点。
你觉得会有多少个格子一个点都没有?
这是本书最需要反复强调的一句话,因为它和日常语感正好相反:「随机分布」不是「摊得很平」,恰恰相反,随机分布必然会扎堆。
原因很简单:每个点落在哪里,都不知道别的点落在了哪里。它们之间没有任何「互相避让」的机制。要让点摊得很平,反而需要一种排斥力——而那正是不随机的表现。
把 537 个点撒进 576 个格子,每格的点数服从Poisson distribution(泊松分布),平均值 λ = 537 ÷ 576 ≈ 0.93:
| 一格里落了几个点 | 预计有多少格 |
|---|---|
| 0 个(完全空白) | 227 格 |
| 1 个 | 211 格 |
| 2 个 | 99 格 |
| 3 个 | 31 格 |
| 4 个 | 7 格 |
| 5 个及以上 | 约 1.6 格 |
近四成的格子是空的,同时还有几个格子挤了 4 到 5 个点。如果你看着这张图,很容易得出两个结论:「这几片区域被系统性地避开了」和「那个格子明显是重点目标」。两个结论都是错的,而图上的一切都是纯随机产生的。
这个错误有个名字,来自 Tversky 和 Kahneman:law of small numbers(小数定律,戏仿「大数定律」)。它指的是人们错误地期待小样本呈现出和大样本一样的规律性。
大数定律是真的:撒 5000 万个点,每格的点数会非常接近平均值,图看起来是均匀的。但撒 537 个点时,每格只有大约 1 个的期望,随机波动的相对幅度极大——平方根定律在这里生效(1.1 章):期望 1 个的格子,波动幅度也是 1 个的量级,也就是 100%。
推论极其实用:越小的单位,越容易出现极端值。全国癌症发病率最高的县和最低的县,往往都是人口很少的小县——不是因为那里有什么特殊之处,而是因为分母小,随机波动大。同理,「最好的学校」和「最差的学校」的榜单里,小规模学校会双双超额出现。看到一份「极端排行榜」,先问一句:分母有多大?
还有一层错误,比看错图更隐蔽。Texas sharpshooter fallacy(德州神枪手谬误)说的是这样一个人:他朝谷仓墙上胡乱开了一梭子,然后走过去,在弹孔最密集的地方画上靶心,宣称自己百发百中。
现实中的版本是:先在数据里找到一处异常,再围绕这处异常划定范围、提出假设,然后用同一批数据来「验证」它。
为什么这必然出错?因为你没有事先指定要看哪里。一个国家有几千个乡镇、几十种癌症、几十年时间跨度——组合数是天文数字(这正是 3.2 章那个「先数一数一共有多少次机会」)。在这么多组合里找不出几个「显著异常」,才是真正需要解释的怪事。
唯一的解法:假设必须用另一批独立数据来检验。发现异常的那批数据只能用来提出假设,不能同时用来检验假设。这条规则在科学上叫预注册,在日常生活里叫「先说好你要看什么」。
下面两张图撒了同样多的点。一张是真随机(每个点独立地随便落),另一张是「均匀」的(先摊到网格上再小幅抖动——正是人手画「随机」时的做法)。
先用眼睛判断哪张是真随机的,再点按钮揭晓。多数人会选错,因为真随机那张看起来「太有规律了」。
图甲
图乙
看那张计数表的中间两列:真随机图的实际计数,和泊松分布的理论预测几乎逐行对得上。而「均匀」图那一列完全是另一副样子——空格极少,也几乎没有一格挤到 3 个以上。
这就是本章最实用的一条:当有人说「这个分布不可能是随机的,你看它明显扎堆」时,他心里的对照组通常是那张「均匀」图,而不是真随机图。把两张图并排放一次,很多「异常聚集」的说法就自己散了。
1944 年,德军开始用 V-1 飞弹轰炸伦敦。这种早期巡航导弹的制导极其粗糙,理论上落点应当接近随机。
但伦敦市民不这么认为。落点在地图上明显是成团的:有些街区被反复击中,有些区域却毫发无损。于是流言四起——有人说德军掌握了精确的瞄准技术,有人说完好的区域里住着德国间谍,所以被刻意避开。这些猜测影响了民众的疏散决策。
战后,英国精算师 R. D. Clarke 用一个漂亮的方法回答了这个问题。他把伦敦南部一片区域划成 576 个各 0.25 平方公里的方格,数出总共 537 次命中,然后把每格的命中次数和泊松分布的预测放在一起比:
| 一格被击中几次 | 实际格数 | 泊松分布预测 |
|---|---|---|
| 0 次 | 229 | 226.74 |
| 1 次 | 211 | 211.39 |
| 2 次 | 93 | 98.54 |
| 3 次 | 35 | 30.62 |
| 4 次 | 7 | 7.14 |
| 5 次及以上 | 1 | 1.57 |
| 合计 | 576 | 576.0 |
吻合得几乎逐行对齐。结论是:落点的聚集完全符合纯随机撒点的预期,没有任何证据表明德军在精确瞄准。那 229 个「幸运街区」不是因为住着间谍,而是因为随机撒 537 个点到 576 个格子里,本来就该有两百多个格子空着。
这个故事的现代版本每年都在上演。某个社区发现「短时间内出现了好几例癌症」,居民自然怀疑附近的工厂、基站或水源。这类担忧完全可以理解,而且有时候是对的——历史上确实有过被证实的环境污染致病事件。
但从统计上看,绝大多数「癌症聚集」经不起检验。医生兼作家 Atul Gawande 在 1999 年为《纽约客》撰写的一篇文章里梳理过这个现象:美国各州卫生部门每年收到大量癌症聚集的报告并展开调查,而能够最终确认存在特定环境原因的极少。原因正是本章讲的两件事叠加:随机撒点必然成团,加上德州神枪手——聚集是先被注意到、再被划定边界的。
这一节需要小心措辞,因为它很容易被读成冷漠。说「大多数癌症聚集是统计假象」,不等于说「居民的担忧是愚蠢的」,更不等于「不必调查」。恰恰相反:正确的做法是调查,但用正确的方法调查——事先划定边界、用独立数据检验、和恰当的基线比较。本章反对的不是警惕,而是「用发现异常的同一批数据去证实这个异常」。随机会制造出看起来像信号的东西,这既意味着不该轻信,也意味着不该在没查之前就下结论。
期望值:2000 × 5/100000 = 0.1 例。出现 2 例看起来是期望的 20 倍,非常吓人。
用泊松分布算这个村庄一年内出现至少 2 例的概率(λ = 0.1):
P(0 例) = e⁻⁰·¹ ≈ 0.905;P(恰好 1 例) ≈ 0.0905 → P(至少 2 例) ≈ 0.47%。
单独看,确实很罕见——大约两百分之一。但这正是德州神枪手的陷阱。关键的下一问是:全国有多少个这样规模的村庄?
假设有 20 万个,那么纯随机之下,一年里预计有 20 万 × 0.47% ≈ 940 个村庄会出现「至少 2 例」。你听说的这一个,几乎肯定是从那 940 个里被报道出来的。
正确的做法:不要问「这个村庄的概率是多少」,而要问「全国范围内,这种程度的聚集本来预计会出现多少次」。如果答案是几百次,那这一次就不构成证据。真正值得警惕的是:同一个村庄接下来几年继续出现(用新数据检验),或者聚集程度远超随机预期(比如 2000 人里出现 15 例)。
因为小县的分母小,随机波动的相对幅度大。一个 1000 人的县,多两例少两例就能让发病率翻倍或减半;一个 100 万人的县,几乎不可能偏离基准值太多。所以排行榜的两端都会被小县占据——它们不是特别健康或特别危险,只是特别不稳定。
这正是 1.1 章那个平方根定律:相对波动约按 1/√n 缩小。n 小,波动就大。
与回归均值的关系:这两件事是同一枚硬币的两面。4.2 章讲的是「按极端表现挑出来的样本,下次会回落」;这里讲的是「极端表现更容易出现在小样本里」。合起来就是:排行榜顶端富集了小样本,而小样本的极端值主要来自噪声,所以明年它们会掉下去。
这有一个著名的现实后果:一些教育改革项目曾观察到「小规模学校的成绩表现最好」,据此投入巨资推动学校小型化。但如果同时去看成绩最差的学校,会发现它们同样是小规模学校——真正的规律不是「小学校更好」,而是「小学校方差更大」。只看榜单一端,就会把方差误读成均值。
第一问:一共看了多少个格子?如果你们的看板同时切了 30 个地区 × 10 个指标 × 每周对比,那就是每周 300 次比较的机会。在纯噪声下,其中出现几个「涨了 40%」是必然的——这是 3.2 章的机会数问题,也是德州神枪手。
第二问:那个地区的基数有多大?如果它是个小地区,40% 的波动可能只对应几十个用户。先看绝对数,再看百分比。大区涨 5% 往往比小区涨 40% 更有信息量。
第三问:其他地区呢?如果只报告了涨得最多的那个,你看到的是被筛选过的极值。要求看完整的分布——所有地区的变化画成一张图,那个 40% 是孤零零的离群点,还是分布右尾里自然的一员?
怎么做才对:把它当成假设而不是结论。事先声明「我们预测该地区下两周将持续高于基线 X%」,然后用新数据检验。如果能持续,才值得投入;如果第三周就退回去了,那是 4.2 章的回归均值,你差点为噪声掏钱。
当然能——Clarke 用的就是这个方法,只不过他的结论恰好是「没有异常」。关键在于把「随机会产生什么」量化出来,作为对照。流程如下:
① 先算基线。纯随机之下,这种聚集程度预计出现多少次?这需要泊松分布(或更贴合场景的模型),以及诚实的「一共看了多少个格子」。
② 事先划定边界。范围、时间窗、疾病类型必须在看数据之前定好。让数据自己划边界,就是在画靶心。Clarke 的方格是按地理均匀划分的,不是围着弹坑画的。
③ 用独立数据检验。发现异常的那批数据只能提出假设。检验必须用另一段时间或另一个地区的数据。这一条是整套流程里最不可妥协的。
④ 找机制。统计上的聚集只是线索,真正的确认需要一条可检验的因果通路:什么物质?什么暴露途径?剂量反应关系存在吗?没有机制的关联,永远只是待检验的假设。
⑤ 权衡两类错误的代价。这一条最容易被统计学训练所忽略。把真实污染当成噪声(漏报),和把噪声当成污染(误报),代价是不对称的,而且随场景变化。如果嫌疑污染源可以低成本地检测,那就该去测——即便统计证据不足。「证据不足以定论」和「不必采取行动」是两回事,这也正是 5.4 章要展开的预防原则。