中心极限定理

Central Limit Theorem CLT

当一个量受许多随机因素的共同影响而随机取值时，它的分布近似服从正态分布

概率的计算就可以简化为标准正态分布的简单计算

graph LR
中心极限定理 ---> 林德伯格-勒维定理 & De_Moivre-Laplace定理 & 李雅普诺夫定理

随机变量的标准化
和式的标准化形式

\begin{array}{r} Z_{n} = \frac{\sum_{k = 1}^{n} X_{k} - \sum_{k = 1}^{n} E (X_{k})}{\sqrt{\sum_{k = 1}^{n} D (X_{k})}} \end{array}

当 $n$ 充分大时：

\begin{array}{r} lim_{n \to \infty} P {Z_{n} \leq x} = lim_{n \to \infty} F (x) = Φ (x) = \frac{1}{\sqrt{2 π}} \int_{- \infty}^{x} e^{- \frac{t^{2}}{2}} d t \end{array}

本质

将随机变量序列的总体看成一个随机变量，
再进行随机变量的标准化，
转化为标准正态分布的计算

特征函数

Lindeberg-Lévy Theorem

林德伯格-勒维定理

$X_{1}, X_{2}, \dots, X_{n}, \dots$ 为独立同分布的随机变量序列
$E (X_{i}) = μ$ $D (X_{i} = σ^{2})$

\begin{array}{r} lim_{n \to \infty} P {\frac{\sum_{i = 1}^{n} X_{i} - n μ}{σ \sqrt{n}} \leq x} = \int_{- \infty}^{x} \frac{1}{\sqrt{2 π}} e^{- \frac{t^{2}}{2}} d t \end{array}

De_Moivre-Laplace Theorem

为 Lindeberg-Lévy Theorem 的一个特列

$Y_{n} \sim B (n, p)$ 服从二项分布

\begin{array}{r} lim_{n \to \infty} P {\frac{Y_{n} - n p}{\sqrt{n p (1 - p)}} \leq x} = \int_{- \infty}^{x} \frac{1}{\sqrt{2 π}} e^{- \frac{t^{2}}{2}} d t \end{array}

当 $n$ 充分大时，二项分布可以近似为正态分布

例题

问题
一大批产品中，一级品率为 $10 %$ , 现从中任取 500 件
分别用切比雪夫不等式和中心极限定理计算这 500 件产品中一级品的比例与 $10 %$ 之差的绝对值小于 $2 %$ 的概率
解答
设每次抽取为一次试验
从一大批产品中抽取，可近似为 n 重伯努利试验
设抽取出来的一级品的件数为 $X$
服从二项分布 $X \sim B (500, 0.1)$
$E (X) = n p = 50$ $D (X) = n p (1 - p) = 45$
问题即求概率：

\begin{array}{r} P {| \frac{X}{500} - 10 % | < 2 %} \end{array}

切比雪夫不等式得：

\begin{aligned} P {| \frac{X}{500} - 10 % | < 2 %} \\ = P {| X - 50 | < 10} \geq 1 - \frac{45}{10^{2}} = 0.55 \end{aligned}

中心极限定理得：

\begin{aligned} P {| \frac{X}{500} - 10 % | < 2 %} \\ = P {| X - 50 | < 10} \\ = P {- \frac{10}{\sqrt{45}} \leq \frac{X - 50}{\sqrt{45}} \leq \frac{10}{\sqrt{45}}} \\ = Φ (\frac{2 \sqrt{5}}{3}) - Φ (- \frac{2 \sqrt{5}}{3}) \\ = 2 Φ (\frac{2 \sqrt{5}}{3}) - 1 \approx 0.8638 \end{aligned}

问题
一盒同型号螺钉共有 100 个，该螺钉的质量为一个随机变量，
期望值是 100g，标准差 10g
求该盒螺钉质量超过 10.2kg 的概率
解答
该螺钉的质量为独立同分布的随机变量序列
一盒螺钉的总质量为 $X = \sum_{i = 1}^{100} X_{i}$
$E (X_{i}) = 100, D (X_{i}) = 10^{2}$
问题即求概率： $P {X > 10200}$

\begin{aligned} P {X > 10200} \\ = P {\frac{\sum_{i = 1}^{100} X_{i} - n μ}{σ \sqrt{n}} > \frac{10200 - n μ}{σ \sqrt{n}}} \\ = P {\frac{X - 10000}{100} > \frac{10200 - 10000}{100}} \\ = P {\frac{X - 10000}{100} > 2} \\ = 1 - P {\frac{X - 10000}{100} \leq 2} \\ = 1 - Φ (2) = 0.02275 \end{aligned}

AI 结构化补充（2026-05-02）

Central Limit Theorem CLT

当一个量受许多随机因素的共同影响而随机取值时，它的分布近似服从正态分布

概率的计算就可以简化为标准正态分布的简单计算

graph LR
中心极限定理 ---> 林德伯格-勒维定理 & De_Moivre-Laplace定理 & 李雅普诺夫定理

随机变量的标准化
和式的标准化形式

\begin{array}{r} Z_{n} = \frac{\sum_{k = 1}^{n} X_{k} - \sum_{k = 1}^{n} E (X_{k})}{\sqrt{\sum_{k = 1}^{n} D (X_{k})}} \end{array}

当 $n$ 充分大时：

\begin{array}{r} lim_{n \to \infty} P {Z_{n} \leq x} = lim_{n \to \infty} F (x) = Φ (x) = \frac{1}{\sqrt{2 π}} \int_{- \infty}^{x} e^{- \frac{t^{2}}{2}} d t \end{array}

本质

将随机变量序列的总体看成一个随机变量，
再进行随机变量的标准化，
转化为标准正态分布的计算

特征函数

Lindeberg-Lévy Theorem

林德伯格-勒维定理

$X_{1}, X_{2}, \dots, X_{n}, \dots$ 为独立同分布的随机变量序列
$E (X_{i}) = μ$ $D (X_{i}) = σ^{2}$

\begin{array}{r} lim_{n \to \infty} P {\frac{\sum_{i = 1}^{n} X_{i} - n μ}{σ \sqrt{n}} \leq x} = \int_{- \infty}^{x} \frac{1}{\sqrt{2 π}} e^{- \frac{t^{2}}{2}} d t \end{array}

De_Moivre-Laplace Theorem

为 Lindeberg-Lévy Theorem 的一个特例

$Y_{n} \sim B (n, p)$ 服从二项分布

\begin{array}{r} lim_{n \to \infty} P {\frac{Y_{n} - n p}{\sqrt{n p (1 - p)}} \leq x} = \int_{- \infty}^{x} \frac{1}{\sqrt{2 π}} e^{- \frac{t^{2}}{2}} d t \end{array}

当 $n$ 充分大时，二项分布可以近似为正态分布

例题

\begin{array}{r} P {| \frac{X}{500} - 10 % | < 2 %} \end{array}

切比雪夫不等式得：

\begin{aligned} P {| \frac{X}{500} - 10 % | < 2 %} \\ = P {| X - 50 | < 10} \geq 1 - \frac{45}{10^{2}} = 0.55 \end{aligned}

中心极限定理得：

\begin{aligned} P {| \frac{X}{500} - 10 % | < 2 %} \\ = P {| X - 50 | < 10} \\ = P {- \frac{10}{\sqrt{45}} \leq \frac{X - 50}{\sqrt{45}} \leq \frac{10}{\sqrt{45}}} \\ = Φ (\frac{2 \sqrt{5}}{3}) - Φ (- \frac{2 \sqrt{5}}{3}) \\ = 2 Φ (\frac{2 \sqrt{5}}{3}) - 1 \approx 0.8638 \end{aligned}

\begin{aligned} P {X > 10200} \\ = P {\frac{\sum_{i = 1}^{100} X_{i} - n μ}{σ \sqrt{n}} > \frac{10200 - n μ}{σ \sqrt{n}}} \\ = P {\frac{X - 10000}{100} > \frac{10200 - 10000}{100}} \\ = P {\frac{X - 10000}{100} > 2} \\ = 1 - P {\frac{X - 10000}{100} \leq 2} \\ = 1 - Φ (2) = 0.02275 \end{aligned}

样本平均的方差缩小

中心极限定理说明：许多独立随机量的和在中心化、标准化后趋近正态分布。如果 $X_{1}, \dots, X_{N}$ 独立同分布，均值为 $m$ ，方差为 $σ^{2}$ ，样本平均为

A_{N} = \frac{X_{1} + \dots + X_{N}}{N},

则

E [A_{N}] = m, Var (A_{N}) = \frac{σ^{2}}{N} .

这解释了平均值波动按 $1 / \sqrt{N}$ 缩小：标准差是 $σ / \sqrt{N}$ 。

两个硬币变量例子

若 $X_{i}$ 等概率取 $1$ 或 $- 1$ ，则

E [X_{i}] = 0, Var (X_{i}) = 1,

所以

Var (\frac{X_{1} + \dots + X_{N}}{N}) = \frac{1}{N} .

若改用 $Y_{i}$ 等概率取 $1$ 或 $0$ ，则

Y_{i} = \frac{X_{i} + 1}{2}, E [Y_{i}] = \frac{1}{2}, Var (Y_{i}) = \frac{1}{4},

于是平均值的方差变为

Var (\frac{Y_{1} + \dots + Y_{N}}{N}) = \frac{1}{4 N} .

一般线性变换

X_{new} = a X_{old} + b

满足

m_{new} = a m_{old} + b, Var (X_{new}) = a^{2} Var (X_{old}) .

二项分布到正态

公平硬币投掷 $N$ 次，令 $S_{N}$ 为正面次数，则 $S_{N} \sim B (N, \frac{1}{2})$ ，并且

E [S_{N}] = \frac{N}{2}, Var (S_{N}) = \frac{N}{4} .

标准化变量

Z_{N} = \frac{S_{N} - N / 2}{\sqrt{N} / 2}

在 $N$ 增大时趋近标准正态分布。 $N = 3$ 时，正面次数 $0, 1, 2, 3$ 的概率为

\frac{1}{8} (1, 3, 3, 1),

平均正面数为 $1.5$ ，已经围绕 $N / 2$ 对称。 $N = 4$ 时，正面次数 $0, 1, 2, 3, 4$ 的概率为

\frac{1}{16} (1, 4, 6, 4, 1),

已经呈现以 $N / 2$ 为中心的钟形轮廓。中心概率在偶数 $N$ 时为

P (S_{N} = N / 2) = \frac{1}{2^{N}} \frac{N!}{(N / 2)! (N / 2)!} .

用 Stirling 近似 $N! \approx \sqrt{2 π N} (N / e)^{N}$ 可得

P (S_{N} = N / 2) \approx \frac{\sqrt{2}}{\sqrt{π N}} = \frac{1}{\sqrt{2 π} (\sqrt{N} / 2)},

与方差 $N / 4$ 的正态密度在中心处的高度一致。

适用边界

独立性、方差有限、没有单个变量支配总和，是常见中心极限定理形式的关键前提。
中心极限定理给出的是标准化后的分布极限，不保证小样本下尾部概率已经精确。
二项分布用正态近似时， $N p$ 与 $N (1 - p)$ 都不应太小；极端概率或稀有事件更适合使用泊松近似或直接计算二项概率。