Skip to main content

特征函数

特征函数是概率论中处理独立和的强大工具——它把卷积化为乘积,把求矩化为求导。它是证明大数定律和中心极限定理的核心技术。

定义

随机变量 XX特征函数(Characteristic Function)为:

φX(t)=E(eitX)=eitxdF(x),tR\varphi_X(t) = E(e^{itX}) = \int_{-\infty}^{\infty} e^{itx}\,dF(x), \quad t \in \mathbb{R}

其中 i=1i = \sqrt{-1} 是虚数单位。

  • 离散型:φ(t)=keitxkpk\varphi(t) = \sum_k e^{itx_k} p_k
  • 连续型:φ(t)=eitxf(x)dx\varphi(t) = \int_{-\infty}^{\infty} e^{itx} f(x)\,dx

特征函数本质上是密度函数(或分布列)的傅里叶变换

基本性质

性质公式
有界性$
共轭对称φ(t)=φ(t)\varphi(-t) = \overline{\varphi(t)}
一致连续φ\varphiR\mathbb{R} 上一致连续
线性变换φaX+b(t)=eitbφX(at)\varphi_{aX+b}(t) = e^{itb} \cdot \varphi_X(at)
独立和φX+Y(t)=φX(t)φY(t)\varphi_{X+Y}(t) = \varphi_X(t) \cdot \varphi_Y(t)X ⁣ ⁣ ⁣YX \perp\!\!\!\perp Y

独立和的特征函数 = 特征函数的乘积。这使卷积化为乘积,是特征函数最重要的性质。

特征函数与矩的关系

E(Xk)<E(|X|^k) < \infty,则 φ\varphikk 阶可导的,且:

φ(k)(0)=ikE(Xk)\varphi^{(k)}(0) = i^k \cdot E(X^k)

由此可从特征函数反求各阶矩。特别地:

E(X)=iφ(0),E(X2)=φ(0)E(X) = -i \cdot \varphi'(0), \quad E(X^2) = -\varphi''(0)

反演公式(唯一性定理)

φX(t)=φY(t)\varphi_X(t) = \varphi_Y(t) 对所有 tt 成立,则 XXYY 有相同的分布函数。

特征函数唯一决定分布函数——这是它的根本重要性所在。

Lévy 连续性定理

XndXX_n \xrightarrow{d} X 当且仅当 φXn(t)φX(t)\varphi_{X_n}(t) \to \varphi_X(t) 对每个 tt 成立,且 φX\varphi_Xt=0t = 0 处连续。

此定理将"按分布收敛"转化为"特征函数的逐点收敛",是证明中心极限定理的核心桥梁。

常见分布的特征函数

分布特征函数
0-1 分布 B(1,p)B(1, p)1p+peit1 - p + p e^{it}
二项分布 B(n,p)B(n, p)(1p+peit)n(1 - p + p e^{it})^n
泊松分布 P(λ)P(\lambda)exp(λ(eit1))\exp(\lambda(e^{it} - 1))
均匀分布 U(a,b)U(a, b)eitbeitait(ba)\dfrac{e^{itb} - e^{ita}}{it(b-a)}
正态分布 N(μ,σ2)N(\mu, \sigma^2)exp(iμt12σ2t2)\exp(i\mu t - \frac{1}{2}\sigma^2 t^2)
指数分布 Exp(λ)\operatorname{Exp}(\lambda)λλit\dfrac{\lambda}{\lambda - it}
伽马分布 Γ(α,λ)\Gamma(\alpha, \lambda)(λλit)α\left(\dfrac{\lambda}{\lambda - it}\right)^{\alpha}

特征函数在极限定理中的角色

在证明中心极限定理时:

  1. XiX_i 标准化:Yi=XiμσY_i = \dfrac{X_i - \mu}{\sigma}
  2. 求部分和 Sn=1nYiS_n = \frac{1}{\sqrt{n}}\sum Y_i 的特征函数
  3. 利用独立和的性质:φSn(t)=[φY1(t/n)]n\varphi_{S_n}(t) = [\varphi_{Y_1}(t/\sqrt{n})]^n
  4. 泰勒展开:φY1(t)=1t22+o(t2)\varphi_{Y_1}(t) = 1 - \frac{t^2}{2} + o(t^2)
  5. 取极限:φSn(t)et2/2\varphi_{S_n}(t) \to e^{-t^2/2},即标准正态的特征函数
  6. 由 Lévy 连续性定理得 dN(0,1)\xrightarrow{d} N(0, 1)