第 12 章　大数定律与中心极限定理

12.1切比雪夫不等式：方差控制偏离

方差衡量「数据离中心多远」。一个自然的推论是：方差越小，数据就越不可能大幅偏离均值。这个直觉被切比雪夫不等式精确化：对任意 ε > 0，

P( |X − E(X)| ≥ ε ) ≤ D(X) ⁄ ε²

解读：X 偏离均值超过 ε 的概率，被「方差 ÷ ε²」这个上界控制住。ε 越大（允许偏离越远），概率越小；方差越大（数据越散），偏离的概率上限越高。

它是怎么证出来的：不等式背后的「放大」技巧

切比雪夫不等式的证明只用两步，值得走一遍——它展示了概率论里「拿均值方差这类汇总数字去约束整个分布」的典型手法。第一步（马可夫型放大）：对任意非负随机变量 Z 和正数 a，有 P(Z ≥ a) ≤ E(Z)/a。道理很朴素：Z 要么以概率 P(Z ≥ a) 贡献「至少 a」、要么贡献 0，故 E(Z) ≥ a·P(Z ≥ a)，移项即得。第二步（套用）：取 Z = (X − E(X))²（非负），a = ε²，得 P(|X − E(X)| ≥ ε) = P(Z ≥ ε²) ≤ E(Z)/ε² = D(X)/ε²。两步合起来，一条不需要知道分布形状的缰绳就套上了。

但必须认识它的脾气：切比雪夫上界往往非常保守。它是拿「最坏情况」换「普适性」——不管分布怎么歪，上界都成立，代价就是比真实概率松得多。对正态分布，偏离 2σ 的真实概率约 4.55%，而切比雪夫只肯说「不超过 25%」；偏 3σ 时真实约 0.27%，切比雪夫说「不超过 11.1%」。差了两个数量级。更极端的是：当 ε ≤ σ 时，右端 D(X)/ε² ≥ 1，不等式退化成「概率不超过 1」的废话——完全失去信息量。它是保底的粗缰绳，不是精密的卡尺；拿到分布形状后（比如确认正态），应立刻换更锐的工具。

工程场景：什么时候只能信切比雪夫。设备验收、来料抽查的早期阶段，手头往往只有「历史均值 + 历史方差」两个数字，分布形状还没摸清（样本太少画不出直方图）——这时要做「偏离允差」的最坏打算，切比雪夫是唯一站得住的普适上界，任何分布都逃不出 D(X)/ε²。等数据攒够、形状确认后，再换正态或经验分布做精细核算。一句话：切比雪夫是认识分布之前的「应急雷达」，不是终身的导航仪。

辨析：上界、近似与真值。三种数字要分层对待：切比雪夫给的是上界（保证不超过，往往很松）；正态近似给的是估计值（假设成立时很准）；实测频率给的是观测值（本身还有随机波动）。工程报告里最容易出的笑话是混用三层：拿切比雪夫上界当「实测不良率」写进结论。记住口诀：上界保底、估计靠假设、真值靠实测。

再进一步：只关心一侧怎么办？工程问题常是单侧的——强度只怕不足、载荷只怕超限、油耗只怕超标，双向偏离里有一头根本无关紧要。这时双侧的切比雪夫会把「无害一侧」的概率也算进上界，白白浪费。单侧版本（坎泰利不等式）更紧：P(X − μ ≥ ε) ≤ D(X)/(D(X) + ε²)。对比感受：σ = 2、ε = 6 时，切比雪夫双侧给 4/36 ≈ 11.1%，单侧版给 4/40 = 10%——看似接近，但当 ε 很小时差距拉开：ε = σ 时双侧上界已是废话（≥1），单侧版仍给出 ≤ 1/2 的有效约束。要用好它，前提还是那句：先想清楚工程上真正在乎的是哪一侧。

12.2大数定律：均值趋于期望

设 X₁, X₂, …, X_n 是独立同分布的随机变量，共同期望为 μ。考虑它们的样本均值：

X̄_n = (X₁ + X₂ + … + X_n) ⁄ n

大数定律断言：当 n 越来越大时，样本均值 X̄_n 越来越靠近真实的期望 μ——用「依概率收敛」的语言说，对任意 ε > 0：

P( |X̄_n − μ| ≥ ε ) → 0　（当 n → ∞）

为什么成立？思路出奇地简单：X̄_n 的期望是 μ（线性性），而它的方差是 σ²/n——n 越大，方差越小。再用切比雪夫不等式：

P( |X̄_n − μ| ≥ ε ) ≤ D(X̄_n)/ε² = (σ²/n) ⁄ ε² → 0

方差被 n 无限摊薄，偏离的概率自然趋于 0。这就是大数定律的全部精髓：平均能让随机性「互相抵消」，把波动压下去。

「依概率收敛」到底在说什么

大数定律的结论用的是一种新的收敛语言，必须把它说精确。依概率收敛的定义：对任意 ε > 0，P(|X̄_n − μ| ≥ ε) → 0。逐字拆解：①「任意 ε」——偏离门槛要多苛刻有多苛刻，1 mm、0.1 mm、0.001 mm 都行；②「概率 → 0」——不是「绝对不发生」，而是「发生的可能性随 n 递减到任意小」。它跟微积分里「数列收敛」的区别在骨子里：X̄_n 是随机变量，每次试验走出一条不同的轨道；依概率收敛说的是「全体轨道中，偏离 μ 超过 ε 的那一类，所占份额越来越小」。第 1 章埋的伏笔在这里兑现：当初说「概率是频率的极限」不严格，就是因为这条收敛不是普通收敛，而是这种「概率意义上的收敛」。

所以「抛 100 次硬币得到 42 次正面」与大数定律不矛盾：定律只承诺「大幅偏离的概率随 n 变小」，没承诺「这一次必然贴近」。数学上还有一个更强的版本叫强大数定律：样本均值「几乎必然」收敛（几乎每一条轨道最终都贴住 μ），但结论形态更抽象；工程直觉按「依概率收敛」理解已经足够。

辛钦大数定律：把「方差存在」这个门槛也拆掉

上面用切比雪夫证明的版本（常称切比雪夫大数定律）要求方差存在且有限。苏联数学家辛钦（Khinchin）证明了一个更漂亮的版本：只要 X₁, X₂, … 独立同分布、期望 μ 存在，样本均值就依概率收敛到 μ——方差存不存在都无所谓。为什么这很重要？因为现实里重尾分布（偶发巨大偏离）并不少见，方差可能不存在；辛钦版告诉我们，「平均会稳定」这件事比重尾更顽固，是期望存在性层面的保证。层级关系背下来：切比雪夫版（好证、条件强）⊂ 辛钦版（条件最弱）；伯努利版（频率 → 概率，下一节）是它们的特例。工程含义：只要「长期平均有意义」（期望存在），采样平均就值得信赖。

这张图把大数定律的「去向」与「波动」装进一幅画：样本均值本身也是随机变量，它的分布中心永远在 μ，宽度却是 σ/√n——n = 4 时宽度减半，n = 100 时缩到十分之一。「平均能压波动」不是一句口号，是 σ/√n 这个精确的速率。它同时也预告了下一节：这条越来越瘦的钟形，正是中心极限定理的舞台。

工程场景：为什么测量规程总要求「重复 n 次取平均」。计量规程里「重复测量取算术平均」是标准动作，理论依据正是 σ/√n 法则：4 次平均把随机波动压到一半，9 次压到三分之一，100 次压到十分之一。但要清醒：它只能压随机误差（每次独立、时正时负）；系统误差（如卡尺自身偏差）每次读数都朝同一方向偏，平均一万次也纹丝不动——协方差不为零的误差不服从「平方相加再除以 n」。这就是为什么高精度测量规程的另一半篇幅永远在讲「如何消除系统误差」（定期送检、反向对消、更换基准），而不是无脑加重复次数。

辨析：三种「收敛」的层级。本章只讲依概率收敛，但要知道山外有山：几乎必然收敛（强大数定律）比依概率收敛更强——要求每条轨道「最终贴住」而不仅是「偏离者份额变小」；均方收敛（L2）则要求 E[(X̄_n − μ)²] → 0，对本章的样本均值恰好成立（σ²/n → 0 即是）。三者关系：几乎必然 ⇒ 依概率 ⇐ 均方，反向均不成立。工程直觉按「依概率」记已够用，但读到「以概率 1 收敛」「强收敛」等字样时应能对上号：那是更强的保证，不是笔误。

顺手比一比「收敛的速度」。切比雪夫路线给出的保证是「概率不超过 σ²/(nε²)」——按 1/n 缩小，这是很慢的；而一旦分布近正态（CLT 口径），真实尾部是按指数缩小的。沿用例题 2 的设定（σ = 2，ε = 0.5）取 n = 500：切比雪夫只肯说「偏离概率不超过 3.2%」，正态口径下真实概率约 2×10⁻⁸——一个是天花板，一个是地板缝。两种速度的巨大差距解释了工程实践的分工：设计前的保守论证用 1/n 的切比雪夫（不依赖形状、稳），日常精算用指数级的正态尾部（依赖形状、准）。

12.3大数定律的意义：频率为何稳定

还记得第 1 章那个经验观察吗——抛硬币次数越多，正面频率越接近 0.5。现在，大数定律给了它一个严格的理论解释。

把「第 i 次是否抛到正面」看成伯努利随机变量 X_i（正面=1，概率 p），那么 n 次试验中正面的频率恰好就是样本均值 X̄_n。由大数定律：

频率 f_n → p（依概率收敛）

这正是伯努利大数定律。它回答了概率论最古老的问题之一：「概率」这个抽象概念，和现实中的「频率」到底是什么关系？答案是：概率是频率的「极限归宿」——试验足够多，频率就会稳定地逼近概率。

把「频率稳定」说得更精确：波动幅度也有公式

伯努利大数定律只说频率「会」收敛，工程上还想知道「收敛得有多快、当前还剩多大波动」。把每次试验看成 0-1 变量 X_i（期望 p、方差 p(1−p)），频率 f_n = X̄_n 的方差就是 p(1−p)/n——这给出一条极实用的定量口径：频率的标准差 ≈ √(p(1−p)/n)。代入感受：抛 100 次硬币（p = 0.5），σ = √(0.25/100) = 0.05，即频率天然就有「±5 个百分点」量级的抖动，「100 次里正面恰好 40 次或更少」的概率约 2.3%——不常见，但每四五十回就能撞上一次，完全谈不上反常。抛 10000 次，σ 缩到 0.005，抖动只剩「±0.5 个百分点」量级。这正面回应了思考题 2：大数定律没有说谎，只是 100 次还处在「天然抖动」的区间里。

再往深一层，伯努利大数定律正是辛钦大数定律的特例——X_i 取 0-1 时，「均值趋于期望」就翻译成「频率趋于概率」。两个版本一对照你会发现：第 1 章的「频率稳定性」不是孤立的玄学事实，它只是「独立同分布的平均趋于期望」这条普遍规律在抛硬币上的投影。保险精算、抽样检验、民意调查，全都站在同一条定律上。

工程场景：蒙特卡洛仿真为什么「合法」。现代工程大量使用蒙特卡洛方法：给机翼阵风载荷跑 10⁶ 次随机仿真、给机构可靠性跑千万次抽样、用随机撒点估算复杂区域上的积分——它们全在做同一件事：用随机试验的频率（平均）去估计一个概率（期望）。这件事的合法性证明，就是大数定律：样本均值依概率收敛到期望，所以「跑得够多，估计就够准」。同时它也解释了蒙特卡洛最著名的脾气：精度按 1/√N 提升——样本量加 100 倍，误差才缩小到 1/10。想多要一位小数的精度，成本百倍起跳。这不是程序写得不好，是定理写死的代价；工程上对付它的办法（方差缩减、重要抽样、分层抽样）说到底都是在改写模拟的方差结构，而不是推翻 1/√N。

辨析：频率稳定 ≠ 「市场会补偿」。大数定律只说「大量重复后频率贴住概率」，它不提供任何「补偿机制」。抛硬币连出 10 次正面后，第 11 次的正概率依然是 0.5——硬币没有记忆，不会「欠了反面要还」。把「长期频率必然回中」误读成「接下来该出反面了」，就是著名的赌徒谬误：它混淆了「频率在新增的大量试验中被稀释回中」（数学事实）与「已发生的偏离会被主动修正」（迷信）。真正的回中方式是「新的 990 次试验以 0.5 的比例发生」，把头 10 次的偏离从 10% 稀释到 1%，而不是后面出 10 次反面去「抵账」。均值回归靠稀释，不靠补偿——这句话能挡掉一大半对大数定律的误用。

工程场景：机队级统计为什么「越攒越准」。航空公司按月统计某型机队的平均延误分钟、某部件的平均拆换间隔——这些「均值」之所以敢直接用来排班、备件、预算，背后是大数定律：每个航班、每台部件的个体表现高度随机，但成千上万个独立个体的平均会贴住期望。配套的纪律也来自本章：指标要「口径统一」（同一总体才谈得上同分布）、样本量要够（σ/√n 决定小数点后第几位可信）、还要警惕强相关与非平稳（一条航线的延误受同一套空管流程牵制，不能当独立样本；机队老龄化会让月度均值悄悄漂移）。大数定律给了均值以合法性，统计纪律才给了均值以可信度。

回收一个第 2 章的伏笔：蒲丰投针用「随机撒针」估算 π——当时它看起来像个聪明的几何戏法，现在你能看清它的真身：用频率估计概率，就是蒙特卡洛方法的原始形态。撒 10000 根针，相交频率对 2l/(πd) 的估计精度就是 1/√N 法则下的 1% 量级。三百年前数学家靠手抛针，今天的工程师用计算机抛 10⁶ 个样本（撒点求积分、模拟载荷、评估可靠性），原理一字未改——变快的只有手。

12.4中心极限定理：和的分布趋于正态

大数定律告诉我们平均值「趋向」哪个数，但没说「怎么趋向、波动多大」。中心极限定理补上了这个答案，它精确描述了和的分布形状。

设 X₁, X₂, …, X_n 独立同分布，期望 μ、方差 σ²（分布可以是任意的，只要方差存在）。它们的和 S_n = X₁ + … + X_n 标准化后：

(S_n − nμ) ⁄ (σ√n) → 标准正态分布 N(0, 1)

换句话说：大量独立随机变量之和，无论它们各自服从什么分布，加起来后都趋近于正态分布。这是概率论里最震撼的结论之一。

「减 nμ、除 σ√n」：每一步都是在给极限让路

标准化式子里的两个动作各有深意。和 S_n 的期望是 nμ、方差是 nσ²——随着 n 增大，S_n 的中心一路向右狂奔、宽度一路变宽，直接看它就是一团「跑着、散开」的分布，不可能收敛到任何固定的东西。减去 nμ：把移动的中心钉回原点；除以 σ√n：把恰好按 √n 增长的宽度按同样速率压缩回去。做完这两步，中心永远在 0、宽度永远在 1，「跑动的云」被定格成一座形状稳定的山——中心极限定理说，这座山的形状不管起点是什么分布，最终都是正态。顺便比较另一个尺度：若除以 n（而不是 σ√n），方差被压成 σ²/n → 0，整座山塌成一根竖线——那正是大数定律（均值收敛到常数）。所以：大数定律看「除以 n」的极限（去向），CLT 看「除以 √n」的临界尺度（形状），同一序列、两种镜头。

为什么偏偏是正态？给一个够用的直觉：两个独立变量之和的密度是「卷积」——把两座密度曲线互相滑动叠加，而滑动叠加是天生磨圆的操作：尖角被相邻的坡填平，平顶被邻域的高度拉弯。卷积一次圆一次，卷积十次、百次，任何形状的「棱角记忆」都被洗掉，只剩由「位置（μ）」和「散布（σ）」决定的标准形状——数学上可以证明，在大数次卷积下形状不再改变的，唯有正态。它不是被偏爱，是卷积的「不动点」。

定理的三个条件各司其职，工程上每一条都要审：① 独立——否则一个因素的大小会牵动其他因素，偏离会「传染」，累积速度不再是 √n（第 11 章说过：协方差不为零时，方差合成要加 2Cov 项）；② 方差有限——存在重尾分布（如柯西分布）方差无穷，巨大跳变永远抹不平，此时样本均值的分布与单个变量完全相同，平均彻底失效，大数定律与 CLT 同时破产；③ 无单项主导——严格说「同分布」可放宽为「林德伯格条件」：每个项的波动都只占总波动的一小份；若 1000 个因素里有一个的波动独占 99%，和的形状由它独裁，正态化失灵（此时该单独研究那一个因素）。

工程场景：质量控制图的数学地基。车间里挂的 X̄ 控制图（对样本均值画的图），上下两条警戒线画在 μ ± 3σ/√n——依据正是 CLT：每批抽 n 件求平均，X̄ 近似 N(μ, σ²/n)，正常情况下 99.73% 的点落在 ±3σ/√n 之内；一旦出现连续出界或贴边游走的点，就说明「随机波动」解释不了它，过程大概率发生了系统性变化（刀具磨损、原料批次、温度漂移）。控制图本质上是把 CLT 反过来用：正态给出「正常的边界」，越界则拒绝「一切只是随机」的解释。这套体系（休哈特控制图）是 CLT 在工业现场最响亮的应用。

辨析：CLT 的「和」与大数定律的「平均」。S_n = n·X̄_n，同一个量两种写法：除以 n 看平均（大数定律：锁向 μ，塌成常数）；不除看和（CLT：中心 nμ、宽度 σ√n，形状正态）。两者从不打架——分别回答「值趋向哪」与「围绕中心如何散布」。工程换算波动量时记住两个尺度：均值口径的波动是 σ/√n（越平均越小），总和口径的波动是 σ√n（越多项越大）；差一个因子 n，分别对应「平均后有多准」与「累计起来有多大」两类问题。

12.5正态分布为何无处不在

现在，我们终于能完整回答第 9 章埋下的那个问题：为什么身高、体重、误差、考试成绩……现实中这么多量都服从正态分布？

答案是中心极限定理：

• 现实中的很多量，本质上是大量独立微小因素之和。身高 = 成千上万个基因、营养、环境因素的叠加；测量误差 = 无数个微小扰动之和。
• 无论每个微小因素本身服从什么分布（甚至我们根本不知道），只要它们数量够多、彼此独立、影响都不算特别大，它们的和就必然趋向正态分布。
• 所以正态分布不是「因为世界偏爱钟形」，而是「大量随机因素叠加的必然数学结果」。

正态的「辖区」与「边界」：什么时候它不管用

把 CLT 反过来读，就得到使用正态假设前的三问自检：① 这个量是不是很多因素之和？② 因素之间是否基本独立？③ 是否没有单一因素主导？三问全过，正态假设八九不离十；哪一问翻车，正态就可能在尾部欺骗你。工程里最典型的「翻车」情形：零件强度——它不是因素之和，而是「最弱环节先坏」，天然偏向威布尔（Weibull）分布；疲劳寿命——裂纹扩展是乘性过程（每段按比例增长），取对数后才成正态（即对数正态）；极端载荷（几十年一遇的最大阵风）——关心的是最大值而非总和，落在极值分布（耿贝尔）手里。正态是「中间地带之王」：和、平均、误差合成归它管；积、最小值、最大值另有其主。

这份「辖区地图」的工程价值在于选对尾部：正态的尾部衰减极快（3σ 之外只剩约 0.27%），而威布尔、对数正态的尾巴明显更肥。安全设计若在「最弱环节」问题上错用正态，会系统性低估小概率破坏事件——失效概率在 10⁻⁷ 量级的结构可靠性分析对分布形状极其敏感，尾部差一点，概率差几个数量级。成熟规范对「强度用威布尔/极值、寿命用对数正态/威布尔、误差合成用正态」的分工写得很细，出发点正是 CLT 的适用边界。

工程场景：公差链与「制造可行性」的判据。设计图纸把总装间隙的允差分配到各工序时，通行规则是「各工序公差的平方和不超过总允差的平方」——依据正是例题 6 展示的合成规律（独立、小波动、平方相加）。反过来，它也给出可行性判据：若某工序公差独占总允差的一半以上，它就成了「主导项」，平方合成的宽松红利（本要直加 10 的，平方合成只要约 8）就吃不到——与其把所有工序都收紧 20%，不如把那一两个大项收敛到与大家同一量级。这是公差设计里最有杠杆的一条经验。拿数字感受一下宽松程度：三个工序公差同为 ±0.10 mm 时，总公差直加是 ±0.30 mm，平方合成是 √(3 × 0.10²) ≈ ±0.17 mm——在同样保证 99.7% 合格率的前提下，平方合成只需把每个工序做到直加方案的约六成精度，制造成本立刻下台阶；而这份红利，正是 CLT 白纸黑字送的。

辨析：三种「平均也救不了」的情形。最后盘点「平均了也不听大数定律」的三种典型面孔：① 重尾——偶发巨值由单个因素决定（如极端阵风），平均被巨值反复搅动；② 强相关——因素之间联动（同一场热漂移让所有孔径同涨），有效样本量远小于表面数量，波动按 n 而非 √n 收缩（第 11 章 2Cov 项的极端化）；③ 非平稳——分布在时间中悄悄改变（刀具磨损让 μ 自己在动），平均稳定到的是「移动靶」。「多测几次」能不能救命，取决于你面对的是普通随机性（能），还是重尾/相关/漂移（不能）——先诊断，再开药。

回头看「测量误差」这个正态老巢。为什么计量学把随机误差默认为正态？拆开看它的成分：读数抖动、温度微变、气流扰动、电源纹波、导轨尘埃……几十上百个来源，各自独立、都只占一小份——CLT 三问全过，正态是必然归宿。这也反过来指出它何时失效：当某个来源升级为「主导」（如现场有台大功率设备周期性干扰），误差分布立刻长出多峰或长尾，正态口径开始撒谎；系统误差更是完全不在 CLT 管辖之内（它不随机）。所以高精度计量的操作顺序从来是：先控环境、除主导、消系统——把 CLT 的前提人为制造出来，然后才能享受正态的便利。正态不是测出来的运气，是工程管理出来的成果。