跳到主要内容

概率论拾遗：特征函数和矩母函数

1 特征函数​

1 特征函数的定义​

特征函数 设随机变量 XX 具有分布列或密度函数 p(x)p(x), 定义它的 Fourier 变换为它的特征函数

Fp(x)=∑xeitxp(x)=∫Reitxp(x)dx=E(eitX)\begin{aligned} \mathcal Fp(x) &= \sum _x e^{\mathrm itx} p(x)\\ &= \int _{\mathbb R} e^{\mathrm itx} p(x) \mathrm dx = E(e^{\mathrm itX}) \end{aligned}

特征函数能将卷积运算转化成乘法运算, 将原点矩(积分运算)转换成乘法运算, 是处理许多概率论问题的有力工具.

1.2 标准正态分布的特征函数​

  标准正态分布变量 XX 的密度函数是

p(x)=12πe−x2/2p(x) = \frac{1}{\sqrt{2\pi}} e^{-x^2/2}

所以其特征函数为

φ(t)=12π∫Reitxe−x2/2dx=12π∫R∑n=0∞(itx)nn!e−x2/2dx=∑n=0∞(it)nn!∫R12πxne−x2/2dx=∑n=0∞(it)nn!E(Xn)\begin{aligned} \varphi(t) &= \frac{1}{\sqrt{2\pi}} \int _{\mathbb R} e^{\mathrm itx} e^{-x^2/2} \mathrm dx\\ &= \frac{1}{\sqrt{2\pi}} \int _{\mathbb R} \sum _{n=0}^\infty \frac{(\mathrm itx) ^n}{n!} e^{-x^2/2} \mathrm dx\\ &= \sum _{n=0}^\infty \frac{(\mathrm it) ^n}{n!} \int _{\mathbb R} \frac{1}{\sqrt{2\pi}} x^n e^{-x^2/2} \mathrm dx = \sum _{n=0}^\infty \frac{(\mathrm it) ^n}{n!}E(X^n) \end{aligned}

对于标准正态分布的矩我们有

E(Xn)={(2k−1)!!,n=2k0,n=2k+1E(X^n) = \begin{cases} (2k - 1)!!, \quad & n = 2k\\ 0, \quad & n = 2k + 1 \end{cases}

所以有

φ(t)=∑k=0∞(it)2k(2k)!(2k−1)!!=∑k=0∞(it)2k(2k)!⋅(2k)!2kk!=∑k=0∞(−t2/2)mk!=e−t2/2\begin{aligned} \varphi(t) &= \sum _{k=0}^\infty \frac{(\mathrm it) ^{2k}}{(2k)!}(2k - 1)!!\\ &= \sum _{k=0}^\infty \frac{(\mathrm it) ^{2k}}{(2k)!}\cdot \frac{(2k)!}{2^kk!}\\ &= \sum _{k=0}^\infty \frac{(-t^2/2)^m}{k!} = e^{-t^2/2} \end{aligned}

1.3 特征函数的性质​

  • ∣φ(t)∣≤φ(0)=1|\varphi(t)| \leq \varphi(0) = 1, φ(−t)=φ(t)‾\varphi(-t) = \overline{\varphi(t)}.

  • 线性变换 φaX+b(t)=eibtφX(at)\varphi _{aX + b}(t) = e^{\mathrm ibt} \varphi _X(at).

  • 卷积 若 XX, YY 独立则 φX+Y(t)=φX(t)φY(t)\varphi _{X + Y}(t) = \varphi _X(t) \varphi _Y(t).

  • 矩 EXk=φ(k)(0)/ikEX^k = \varphi ^{(k)}(0) / \mathrm i^k.

    • 数学期望 EX=φ′(0)/iEX = \varphi'(0) / i.

    • 方差 DX=−φ′′(0)+φ′(0)2DX = - \varphi''(0) + \varphi'(0)^2.

2 矩母函数​

3 常见分布的特征函数和矩母函数​

分布分布列或密度特征函数矩母函数
退化分布 aa11eiate^{\mathrm iat}
0-1 分布 b(p)b(p)pxq1−xp^xq^{1-x}pit+qp^{\mathrm it} + q
二项分布 B(n,p)B(n,p)(nk)pkqn−k\binom nk p^kq^{n-k}(pit+q)n(p^{\mathrm it} + q)^n
Poisson 分布 P(λ)P(\lambda)λke−k/k!\lambda ^k e^{-k} / k!eλ(it−1)e^{\lambda(\mathrm it - 1)}
几何分布 G(p)G(p)pqk−1pq^{k-1}p1−qeit\frac{p}{1-qe^{\mathrm it}}
负二项分布 NB(r,p)NB(r,p)(k−1r−1)prqk−r\binom{k-1}{r-1}p^rq^{k-r}(p1−qeit)r\left(\frac{p}{1-qe^{\mathrm it}}\right)^r
均匀分布 U(a,b)U(a,b)1b−a\frac{1}{b-a}eibt−eiatit(b−a)\frac{e^{\mathrm ibt}-e^{\mathrm iat}}{\mathrm it(b-a)}
正态分布 N(μ,σ2)N(\mu,\sigma^2)12πσe−(x−μ)22σ2\frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{(x-\mu)^2}{2\sigma^2}}eiμt−(σt)22e^{\mathrm i\mu t - \frac{(\sigma t)^2}{2}}
指数分布 E(λ)E(\lambda)λe−λx\lambda e^{-\lambda x}(1−it/λ)−1(1-\mathrm it/\lambda)^{-1}
伽马分布 Γ(a,λ)\Gamma(a,\lambda)λαΓ(α)xα−1e−λx\frac{\lambda^\alpha}{\Gamma(\alpha)}x^{\alpha-1}e^{-\lambda x}(1−it/λ)−α(1-\mathrm it/\lambda)^{-\alpha}
卡方分布 χ2(n)\chi^2(n)xn/2−1e−x/2Γ(n/2)2n/2\frac{x^{n/2-1}e^{-x/2}}{\Gamma(n/2)2^{n/2}}(1−2it)−n/2(1-2\mathrm it)^{-n/2}
贝塔分布 B(α,β)\mathrm B(\alpha,\beta)xα−1(1−x)β−1B(α,β)\frac{x^{\alpha-1}(1-x)^{\beta-1}}{\mathrm B(\alpha,\beta)}Γ(α+β)Γ(α)∑k=0∞(it)kΓ(α+k)k!Γ(α+β+k)Γ(k+1)\frac{\Gamma(\alpha+\beta)}{\Gamma(\alpha)}\sum_{k=0}^\infty\frac{(\mathrm it)^k\Gamma(\alpha+k)}{k!\Gamma(\alpha+\beta+k)\Gamma(k+1)}
柯西分布1/π(1+x2)1/\pi(1+x^2)e−∥t∥e^{-\|t\|}

参考文献​

[1] 茆诗松, 程依明, 濮晓龙. 概率论与数理统计教程. 第 2 版[M]. 北京: 高等教育出版社, 2010.