概率论
第一章 事件及其概率
随机现象与统计规律性
- 随机现象
- 必然事件记作\(\Omega\),不可能事件记作\(\emptyset\)
- 频率:\(F_N(A) = {n \over N}\)
- 概率的统计定义:频率所稳定的到的那个常数可以表示事件\(A\)在一试验中发生的可能性大小,称作概率
古典概型
- 样本空间和样本点
样本点记作\(\omega\),样本空间记作\(\Omega\) 古典概型的两个特征:- 样本空间是有限的
- 各基本事件的出现是等可能的
古典概率：$P(A) = {m \over n} = {A包含的样本总数 \over 样本空间中样本点总数} $
-
几何概率
几何概型:- 样本空间中样本点无限
- 样本点落在等测度 ( 长度、面积、体积 \(\cdots\)) 区域的概率相等
几何概率：\(P(A_g) = {g的测度 \over \Omega的测度}\)
例：Buffon投针问题：平面上画有很多平行线，间距为a.向此平面投掷长为l(l < a)的针求此针与任一平行线相交的概率(P9)
解：以针的任一位置为样本点，它可以由两个数决定，针的中点与最接近的平行线之间的距离\(x\)，针与平行线直接的夹角\(\varphi\)。样本空间为一矩形： $$\Omega = \lbrace (\varphi,x)\mid 0\leq \varphi \leq\pi,0 \leq x \leq \frac a2\rbrace $$ 针与平行线相交的区域是 $g=\lbrace (\varphi,x)\mid x \leq lsin \frac \varphi 2\rbrace $，所求概率是：
\[P = {g的面积 \over \Omega的面积} = {\int_0^\pi (l/2)sin\varphi d\varphi \over \pi (a/2)} = {2l \over a \pi}\]概率的公理化定义
-
事件
事件之间的关系:相等、并事件、交事件、差事件、逆事件、互不相容事件之间的运算:交换律、结合律、分配律、德摩根律
-
概率空间
三要素:样本空间\(\Omega\)、事件域\({\mathscr{F}}\)、概率\(P\) -
事件域公理:
- \(\Omega \in \mathscr{F}\)
- 若\(A \in \mathscr{F}\),则\(\overline{A} \in \mathscr{F}\)
- 若\(A_1,A_2,\cdots,A_n,\cdots \in \mathscr{F}\),则\(\bigcup_{n=1}^{\infty}A_n \in \mathscr{F}\)
-
事件域的性质:
- \(\emptyset \in \mathscr{F}\)
- 若\(A_1,A_2,\cdots,A_n,\cdots \in \mathscr{F}\)，则\(\bigcap_{n=1}^{\infty}A_n \in \mathscr{F}\)
- 若\(A_1,A_2,\cdots,A_n,\cdots \in \mathscr{F}\)，则\(\bigcup_{k=1}^{n}A_k \in \mathscr{F}\)
-
波雷尔(Borel) \(\sigma-\)代数:
- 若\(\Omega = \boldsymbol{R}\)，此时常取一切左开右闭区间和它们的(有限或可列)并、交、逆所组成的全体为\(\mathscr{F}\) (通常记为\(\mathscr{B}\))，称为一维波雷尔\(\sigma-\)代数，其中的集合称为一维波雷尔集
- 若\(\Omega = \boldsymbol{R}^n\)，此时常取一切左开右闭有界\(n\)维矩形和它们的(有限或可列)并、交、逆所组成的全体为\(\mathscr{F}\) (通常记为\(\mathscr{B}^n\))，称为\(n\)维波雷尔\(\sigma-\)代数
-
概率的运算公式:
- \(P(\emptyset) = 0\)
- 若\(A_i A_j = \emptyset,i,j = 1,2,\cdots,n,i \neq j,\)则\(P(\sum_{i=1}^n A_i) = \sum_{i=1}^n P(A_i).\)
- \(P(\overline{A}) = 1 - P(A)\)
- 若\(B \subset A\),则\(P(A-B) = P(A) - P(B)\)
- \(P(A \cup B) = P(A) + P(B) - P(AB)\)
- \(P(A \ B) = P(A) - P(AB)\)
- (多退少补定理)\(P(A_1 \cup A_2 \cup \cdots \cup A_n) = \sum_{i=1}^n P(A_i) - \sum_{1\leq i<j\leq n} P(A_i A_j) + \cdots + (-1)^{n-1}P(A_1 \cdots A_n)\)
- (次可加性)\(P(A_1 \cup A_2 \cup \cdots \cup A_n) \leq \sum_{i=1}^n P(A_i)\)
条件概率与事件的独立性
补充与注记
第二章 随机变量与分布函数
离散型随机变量及其分布
-
分布列,有时也称概率分布,包含两个方面:1.\(\xi\)可能取的值 2.取这些值的概率.如下所示 $$ \begin{bmatrix} x_1 & x_2 & \cdots & x_n & \cdots \\ p(x_1) & p(x_2) & \cdots & p(x_n) & \cdots\\ \end{bmatrix} $$ 分布列具有性质: $\sum_{i=1}^\infty p(x_i) = 1 $
-
帕斯卡分布: 伯努利模型中,每次成功的概率都是p.记直至得到第r次成功时的试验次数为\(\xi\) $$ P(\xi = k) = {k-1 \choose r-1}p^k(1-p)^{k-r},k = r,r+1,r+2,\cdots . $$
-
退化分布/单点分布: $$ P(\xi = c) = 1. $$
-
两点分布: $$ \begin{bmatrix} x_1 & x_2 \\ p & q \\ \end{bmatrix} ,p,q > 0,p+q = 1 $$
-
伯努利分布: $$ \begin{bmatrix} 1 & 0 \\ p & q \\ \end{bmatrix} ,p,q > 0,p+q = 1 $$
-
二项分布: 简记作\(\xi \sim B(n,p)\),\(n\)和\(p\)称为它的两个参数 $$ P(\xi = k) = {n \choose k}p^kq^{n-k},p+q = 1,p,q > 0 $$ 二项分布的重要性质:
- \(b(k;n,p) = b(n-k;n,1-p)\)
-
- 当\(k < (n+1)p\)时，\(b(k;n,p)/b(k-1;n,p) > 1,b(k;n,p)\)单调增加
- 当\(k > (n+1)p\)时，\(b(k;n,p)/b(k-1;n,p) < 1,b(k;n,p)\)单调减少
- 最可能成功次数:\(m = (n+1)p\)或\((n+1)p-1\),当\((n+1)p\)不是整数时,\(m = [(n+1)p]\)
- \(P(\xi = k+1) = {{p(n-k)} \over {q(k+1)}}P(\xi = k)\)
- 泊松分布: 简记作\(\xi \sim P(\lambda)\),\(\lambda\)称为它的参数,也即\(\xi\)的平均值 $$ P(\xi = k) = \frac{\lambda^k}{k!}e^{-\lambda}, \lambda > 0 ,k = 0,1,2,\cdots, $$ 泊松定理:假设\(S_n \sim B(n,p_n)\)若存在正常数\(\lambda\),当\(n \to \infty\)时,有\(np_n \to \lambda\),则 $$ P(S_n = k) \to {\lambda^k \over k!}e^{-\lambda} = P(X=k),k = 0,1,2,\cdots,n \to \infty $$ $$ \mathscr{PF}: $$ $$ \begin{aligned}P(S_n = k) &= C_n^kp_n^k(1-p_n)^{n-k}\\ &= {n! \over k!(n-k)!}p_n^k(1-p_n^{n-k})\\ &= {1 \over k!}n(n-1)\cdots(n-k+1){1 \over n^k}(np_n)^k(1-{\lambda \over n})^{n-k}\\ &= {1 \over k!}1(1-\frac{1}{n})(1-\frac{2}{n})\cdots(1-\frac{k-1}{n})\lambda^k(1-{\lambda \over n})^{n-k}\\ \end{aligned} $$ $$ while n \to \infty,1(1-\frac{1}{n})(1-\frac{2}{n})\cdots(1-\frac{k-1}{n}) = 1,and\ we\ know\ that: \newline e^x = (1+\frac{x}{n})^n,n\to\infty,so\ P(S_n = k) = \frac{1}{k!}\lambda^ke^{-\lambda} $$
-
几何分布: $$ P(\xi = k) = pq^{k-1},p+q = 1,p,q > 0, k = 1,2,\cdots $$
-
超几何分布: $$ P(\xi = k) = \frac{{M \choose k}{N-M \choose n-k}}{{N \choose n}},n \leq N,M \leq N,k = 0,1,2,\cdots ,min(n,M). $$
分布函数与连续型随机变量
- 分布函数:
- $F(x) = P(\xi \leq x), -\infty < x < \infty $
- 性质: 1.单调不减性:\(a < b \implies F(a) \leq F(b)\) 2.\(\lim_{x \to -\infty}F(x) = 0,\lim_{x \to \infty}F(x) = 1\) 3.右连续性:\(F(x+0) = F(x)\)
- 连续型随机变量及密度函数: 若随机变量\(\lambda\)可取某个区间中的一切值,并且存在某个非负的可积函数\(p(x)\),使分布函数\(F(x)\)满足: $$ F(x) = \int_{-\infty}^x p(y)dy, -\infty < x < \infty, $$ 则称\(\xi\)为连续型随机变量,\(p(x)\)为\(\xi\)的概率密度函数或简称为密度函数
- 均匀分布: 简记作\(\xi \sim U(a,b)\) $$ p(x) = \begin{cases} {1 \over {b-a}}, & a \leq x \leq b \\ 0, & \text{else} \end{cases} $$ $$ F(x) = \begin{cases} 0, & x < a, \\ {{x-a} \over {b-a}}, & a \leq x < b,\\ 1, & x \geq b. \end{cases} $$
- 指数分布: 简记作\(\xi \sim exp(\lambda)\) $$ p(x) = \begin{cases} \lambda e^{-\lambda x}, & x \geq 0 \\ 0, & \text{else} \end{cases} $$
- \(\Gamma\)分布: 简记作\(\xi \sim \Gamma(\lambda,r)\) 其密度函数为: $$ p(x) = \begin{cases} {\lambda^r \over {\Gamma(r)}}x^{r-1}e^{-\lambda x}, & x \geq 0 \\ 0, & \text{else} \end{cases} \lambda > 0,r > 0 $$ 其中\(\Gamma(r)\)是第二型欧拉积分，当\(r\)为整数时，\(\Gamma(r) = (r-1)!\) 值得注意的是，\(\Gamma\)分布是可加的，若\(X_1 \sim \Gamma(\lambda,r1),X_2 \sim \Gamma(\lambda,r2)\),则\(X_1 + X_2 \sim \Gamma(\lambda,r1+r2)\) 而又易知指数分布是\(\Gamma(\lambda,1)\)对应的特殊情况，所以服从指数分布的随机变量相加所得到的随机变量服从\(\Gamma\)分布。
- 拉普拉斯分布:
简记作\(\xi \sim La(a,b)\)
其密度函数为:
$$
p(x) = \frac{1}{2\lambda}e^{-\frac{|x-\mu|}{\lambda}}
$$
拉普拉斯分布的一些性质:
- 若\(X \sim exp(\lambda),Y \sim exp(\mu)\),那么\(\lambda X -\mu Y \sim La(0,1)\)
- 如果\(X,Y\sim U(0,1)\),那么\(ln\frac{X}{Y} \sim La(0,1)\)
- 若\(X_i \sim La(\mu,b)\),那么\(\frac{2}{b} \sum_{i=1}^n |X_i-\mu| \sim \chi^2(2n)\)
- 柯西分布: 其密度函数为: $$ p(x) = \frac{1}{\pi}\frac{1}{1+(x-\theta)^2},-\infty < x < \infty $$
- 正态分布: 简记作\(\xi \sim N(a,\sigma^2)\) $$ p(x) = {1 \over {\sqrt{2 \pi}\sigma}}e^{-{{(x-a)^2} \over {2\sigma^2}}}, -\infty < x < \infty $$ 需能够熟练证明\(\int_{-\infty}^\infty p(x)dx = 1\) \(a = 0,\sigma = 1\)时,称为标准正态分布
高斯积分
- 高斯积分: $$ \int_{-\infty}^{+\infty}e^{-\frac{1}{2}ax^2}dx=\sqrt{\frac{2\pi}{a}} $$ $$ \int_{-\infty}^{+\infty}x^{2n}e^{-\frac{1}{2}ax^2}dx=\sqrt{2\pi}a^{-\frac{2n+1}{2}}(2n-1)!! $$ $$ \int_{0}^{+\infty}x^{2n+1}e^{-\frac{1}{2}ax^2}dx=2^nn!a^{-n-1} $$ $$ \int_{-\infty}^{+\infty}e^{-\frac{1}{2}ax^2+Jx}dx =\sqrt{\frac{2\pi}{a}}e^{\frac{J^2}{2a}} $$ $$ \int_{-\infty}^{+\infty}e^{-\frac{1}{2}ax^2+iJx}dx =\sqrt{\frac{2\pi}{a}}e^{-\frac{J^2}{2a}} $$ $$ \int_{-\infty}^{+\infty}e^{i(\frac{1}{2}ax^2+Jx)}dx =\sqrt{\frac{2\pi i}{a}}e^{-i\frac{J^2}{2a}} $$ $$ \int_{-\infty}^{+\infty}e^{-\frac{1}{2}x^TKx}d^nx=\sqrt{\frac{(2\pi)^n}{detK}} （K是对称矩阵，以下同理） $$ $$ \int_{-\infty}^{+\infty}e^{-\frac{1}{2}x^TKx+Jx}d^nx=\sqrt{\frac{(2\pi)^n}{detK}}e^{\frac{1}{2}JK^{-1}J} $$ $$ \int_{-\infty}^{+\infty}e^{-\frac{1}{2}x^TKx+iJx}d^nx=\sqrt{\frac{(2\pi)^n}{detK}}e^{-\frac{1}{2}JK^{-1}J} $$ $$ \int_{-\infty}^{+\infty}e^{i(\frac{1}{2}x^TKx+Jx)}d^nx=\sqrt{\frac{(2\pi i)^n}{detK}}e^{-\frac{i}{2}JK^{-1}J} $$ 误差函数： \(erf(x)=\frac{2}{\sqrt{\pi}}\int_0^xexp(-y^2)dy\)
- 定义2.4: 若随机变量\(\xi\)可取某个区间中的一切值，并且存在某个非负的可积函数\(p(x)\)，使分布函数\(F(x)\)满足： $$ F(x) = \int_{-\infty}^x p(y)dy, -\infty < x < \infty $$ 则称\(\xi\)为连续型随机变量，称\(p(x)\)为\(\xi\)的概率密度函数，简称为密度函数
随机向量
- \(n\)维随机向量\(\boldsymbol{\xi}(\omega)\):\(\boldsymbol{\xi}(\omega) = {\xi_1(\omega),\xi_2(\omega),\cdots,\xi_n(\omega)}\)
- 边际分布: 对某一个下标求和
- 边际分布函数: $$ F_\xi(x) = P(\xi \leq x) = F(x,\infty),F_\eta(y) = P(\eta \leq y) = F(\infty,y) $$
- 连续型分布: $$ F(x_1,\cdots,x_n) = \int_{-\infty}^{x_1} \cdots \int_{-\infty}^{x_n}p(y_1,\cdots,y_n)dy_1 \cdots dy_n $$
- 联合密度函数:\(p(x_1,\cdots,x_n)\)
- 边际密度: $$ p_\xi(u) = \int_{-\infty}^{\infty} p(u,v)dv,p_\eta(v) = \int_{-\infty}^{\infty}p(u,v)du $$
随机变量的独立性
条件分布
随机变量的函数及其分布
- 随机向量的变换: 若\((X,Y)\)具有密度函数\(p_{(X,Y)}(x,y)\),\(U = f(X,Y),V = f(X,Y)\),如何求\((U,V)\)的密度函数? \(\newline\)如果存在函数\(g_1,g_2\)，使得\(X = g_1(U,V),Y = g_2(U,V)\),Jacobi行列式\(|J|\) = \(\begin{vmatrix} \frac{\partial (g_1,g_2)}{\partial (U,V)} \end{vmatrix}\),则: $$ p_{(U,V)}(u,v) = p_{(X,Y)}(g_1^{-1}(u,v),g_2^{-1}(u,v))|J| $$
补充与注记
第三章 数字特征与特征函数
数学期望
随机变量\(\xi\)的数学期望记作\(E\xi\)
- 离散型 \(E\xi = \sum_{x \in \mathbb{R}}xp(x)\)
- 连续型 \(E\xi = \int_{-\infty}^{\infty}xf(x)dx = \int_{-\infty}^{\infty}xdF(x)\)
数学期望的性质:
- 若\(E\xi_1,\cdots,E\xi_n\)存在，则对任意常数\(c_1,\cdots,c_n,b\),有 $$ E(\sum_{i = 1}^n c_i\xi_i+b) = \sum_{i = 1}^n c_iE\xi_i + b $$
- 若\(\xi_1,\cdots,\xi_n\)相互独立,且\(E\xi_1,\cdots,E\xi_n\)存在，则: $$ E(\xi_1 \cdots \xi_n) = E\xi_1 \cdots Ei_n $$
- 有界收敛定理:假设对任意\(\omega \in \Omega\)有\(\lim_{n \to \infty} \xi_n(\omega) = \xi(\omega)\)，并且对一切\(n \geq 1\)，\(|\xi_n \leq M|\)，其中M为常数，则: $$ \lim_{n \to \infty}E\xi_n = E\xi $$
方差、协方差与相关系数
特征函数
设\(\xi\)为实随机变量，称 $$ f(t) = Ee^{-it\xi} = \int_{-\infty}^{\infty}e^{-itx}p(x)dx = \sum_{n = 1}^{\infty}p_n e^{-itx_n} -\infty < t < \infty $$ 为\(\xi\)的特征函数
- 性质1:\(|f(t)| \leq f(0) = 1,f(-t) = \overline{f(t)}\)
- 性质2:\(f(t)\) 在\((-\infty,\infty)\)上一致连续
- 性质3:\(f(t)\)是非负定的，即\(\forall n \in \mathbb{N},t_1,\cdots,t_n \in \mathbb{R},\lambda_1,\cdots,\lambda_n \in \mathbb{C}\) $$ \sum_{k=1}^n\sum_{j=1}^n f(t_k - t_j)\lambda_k \overline{\lambda_j} \geq 0 $$ 函数\(f(t)\)是特征函数的充要条件是\(f(n)\)非负定，连续且\(f(0) = 1\)
- 性质4:若\(\xi_1,\cdots,\xi_n\)相互独立，特征函数非别为\(f_1(t),\cdots,f_n(t)\).记\(\eta = \sum_{i=1}^n \xi_i\)，则\(\eta\)的特征函数 $$ f_\eta(t) = f_1(t)f_2(t) \cdots f_n(t) $$
- 性质5:若\(E\xi^n\)存在，则\(f(t)\)是n次可微的，进而，当\(k \leq n\)时 $$ f^{(k)}(t) = i^k \int_{-\infty}^\infty x^ke^{-itx}p(x)dx,f^{(k)}(0) = i^k E\xi^k $$
- 性质6:设\(\eta = a\xi + b\)，其中a,b是任意常数，则 $$ f_\eta(t) = e^{ibt}f(at) $$
逆转公式与唯一性定理
- 逆转公式:设分布函数\(F(x)\)的特征函数为\(f(t)\).令\(x_1,x_2\)是\(F(x)\)的连续点，则 $$ F(x_2)-F(x_1) = \lim_{T \to \infty} \frac{1}{2\pi}\int_{-T}^{T}\frac{e^{-tx_1} - e^{-tx_2}}{it}f(t)dt $$
- 唯一性定理:分布函数可以由特征函数唯一确定
- 逆傅里叶变换:设\(f(t)\)是特征函数，且\(\int_{-\infty}^{\infty}|f(t)|dt < \infty\),则分布函数\(F(x)\)的导数存在且连续.此时 $$ F'(x) = \frac{1}{2\pi}\int_{-\infty}^{\infty}e^{-itx}f(t)dt $$ 离散型随机变量的情况:\(p_k = \frac{1}{2\pi}\int_0^{2\pi}e^{-itk}f(t)dt\)
多元特征函数
设随机向量\(\boldsymbol{\xi} = (\xi_1,\cdots,\xi_n)'\)的分布函数为\(F(x_1,\cdots,x_n)\),称其特征函数为: $$ f(t_1,\cdots,t_n) = Ee^{i(t_1\xi_1+\cdots + t_n\xi_n)} = \int_{-\infty}^{\infty}\cdots\int_{-\infty}^{\infty}e^{i(t_1x_1+\cdots+t_nx_n)}p(x_1,\cdots,x_n)dx_1\cdots dx_n $$
- 性质1':\(\eta = \sum_{i=1}^n a_i\xi_i\)，则\(\eta\)的特征函数为 $$ f_\eta(t) = Ee^{it\sum_{k=1}^n a_k\xi_k} = f(a_1t,\cdots,a_nt). $$
- 性质2':
- 性质3':
- 性质4':设\(\xi_j\)的特征函数为\(f_j(t)\),则\(\xi_1,\cdots,\xi_n\)独立的充要条件为\((\xi_1,\cdots,\xi_n)'\)的特征函数 $$ f(t_1,\cdots,t_n) = f_1(t_1)\cdots f_n(t_n) $$
- 性质5':
- 性质6':
多元正态分布
\(n\)元正态分布\(N(\boldsymbol{a}, \boldsymbol{B})\)的密度函数为:\(p(\boldsymbol{x}) = \frac{1}{(2\pi)^{n/2}|\boldsymbol{B}|^{1/2}}exp{-\frac{1}{2}(\boldsymbol{x}-\boldsymbol{a})^T\boldsymbol{B}^{-1}(\boldsymbol{x}-\boldsymbol{a})}\)\
特征函数为:\(f(\boldsymbol{t})\) = \(exp\{i\boldsymbol{t'a}-\frac{1}{2}\boldsymbol{t'Bt}\}\)
\(\quad \quad \quad \quad\)或\(f(t_1,\cdots,t_n) = exp(i\sum_{k = 1}^na_kt_k - \frac{1}{2}\sum_{i=1}^n\sum_{j=1}^nb_{ij}t_it_j)\)
- 性质1':
- 性质2':\(N(\boldsymbol{a}, \boldsymbol{B})\)的数学期望为\(\boldsymbol{a}\),协方差矩阵为\(\boldsymbol{B}\)
- 性质3':服从\(n\)元正态分布的随机变量\(\xi_1,\cdots,\xi_n\)相互独立的充要条件是它们两两不相关
- 性质4':
- 性质5':设\(\boldsymbol{\xi} = (\xi_1,\cdots,\xi_n)' \sim N(\boldsymbol{a}, \boldsymbol{B}),\boldsymbol{C} = (c_{ij})_{m \times n}\),则 $$ \boldsymbol{\eta} = \boldsymbol{C\xi} \sim N(\boldsymbol{Ca,CBC'}). $$
- 性质6':
补充与注记
第四章 极限定理
依分布收敛与中心极限定理
依概率收敛与弱大数定律
依概率收敛
定义:设\(\xi\)和\(\xi_n,n \geq 1\),是定义在同一概率空间\((\Omega,\mathcal{F},P)\)上的随机变量.如果对任意\(\varepsilon > 0\) $$ \lim_{n \to \infty}P(\vert \xi_n - \xi \vert \geq \varepsilon) = 0 \quad \lim_{n \to \infty}P(\vert \xi_n - \xi \vert < \varepsilon) = 1 $$ 则称\(\xi_n\)依概率收敛于\(\xi\),记作\(\xi_n \xrightarrow{P}\xi\)
弱大数定律
定义:设\({\xi_n}\)是定义在概率空间\((\Omega,\mathcal{F},P)\)上的随机变量序列，如果存在常数列\({a_n}{b_n}\),使得 $$ \frac{1}{a_n}\sum_{k=1}^{n}\xi_k - b_n \xrightarrow{P} 0 $$ 则称\({\xi_n}\)服从弱大数定律，简称服从大数定律
- 伯努利大数定律:设\({\xi_n}\)是一列独立同分布的随机变量,\(P(\xi_n = 1) = p,P(\xi_n = 0) = 1-p,0 < p < 1.\)记\(S_n = \sum_{k=1}^n\xi_k\),则: $$ \frac{S_n}{n} \xrightarrow{P} p $$
- 切比雪夫大数定律:设\({\xi_n}\)是定义在概率空间\((\Omega,\mathcal{F},P)\)上的随机变量序列，\(E\xi_n = \mu_n,Var\xi_n = \sigma_n^2.\)如果\(\sum_{k = 1}^n\frac{\sigma_k^2}{n^2} \to 0\),则\({\xi_n}\)服从大数定律,即: $$ \frac{1}{n}\sum_{k=1}^n\xi_k - \frac{1}{n}\sum_{k=1}^n\mu_k \xrightarrow{P} 0 $$
- 辛钦大数定律:设\({\xi_n}\)是定义在概率空间\((\Omega,\mathcal{F},P)\)上的独立同分布随机变量序列,\(E| \xi_1 | < \infty.\)记\(\mu = E\xi_1,S_n=\sum_{k=1}^n\xi_k\)则\({\xi_n}\)服从弱大数定律,即 $$ \frac{S_n}{n} \xrightarrow{P} \mu $$