特征函数 (概率论)

在累积概率分布函数与特征函数之间存在双射。也就是说，两个不同的概率分布不能有相同的特征函数。

给定一个特征函数φ，可以用以下公式求得对应的累积概率分布函数F：

${\displaystyle F_{X}(y)-F_{X}(x)=\lim _{\tau \to +\infty }{\frac {1}{2\pi }}\int _{-\tau }^{+\tau }{\frac {e^{-itx}-e^{-ity}}{it}}\,\varphi _{X}(t)\,dt}$。

一般地，这是一个广义积分；被积分的函数可能只是条件可积而不是勒贝格可积的，也就是说，它的绝对值的积分可能是无穷大。[1]

任意一个函数${\displaystyle \varphi }$是对应于某个概率律${\displaystyle \mu }$的特征函数，当且仅当满足以下三个条件：

1. ${\displaystyle \varphi \,}$是连续的；
2. ${\displaystyle \varphi (0)=1\,}$；
3. ${\displaystyle \varphi \,}$是一个正定函数（注意这是一个复杂的条件，与${\displaystyle \varphi >0}$不等价）。

特征函数对于处理独立随机变量的函数特别有用。例如，如果X₁、X₂、……、X_n是一个独立（不一定同分布）的随机变量的序列，且

${\displaystyle S_{n}=\sum _{i=1}^{n}a_{i}X_{i},\,\!}$

其中a_i是常数，那么S_n的特征函数为：

${\displaystyle \varphi _{S_{n}}(t)=\varphi _{X_{1}}(a_{1}t)\varphi _{X_{2}}(a_{2}t)\cdots \varphi _{X_{n}}(a_{n}t).\,\!}$

特别地，${\displaystyle \varphi _{X+Y}(t)=\varphi _{X}(t)\varphi _{Y}(t)}$。这是因为：

${\displaystyle \varphi _{X+Y}(t)=E\left(e^{it(X+Y)}\right)=E\left(e^{itX}e^{itY}\right)=E\left(e^{itX}\right)E\left(e^{itY}\right)=\varphi _{X}(t)\varphi _{Y}(t)}$。

注意我们需要${\displaystyle X}$和${\displaystyle Y}$的独立性来确立第三和第四个表达式的相等性。

另外一个特殊情况，是${\displaystyle a_{i}=1/n}$且${\displaystyle S_{n}}$为样本平均值。在这个情况下，用${\displaystyle {\overline {X}}}$表示平均值，我们便有：

${\displaystyle \varphi _{\overline {X}}(t)=\left(\varphi _{X}(t/n)\right)^{n}}$。

特征函数还可以用来求出某个随机变量的矩。要第n个矩存在，特征函数就可以微分n次，得到：

${\displaystyle \operatorname {E} \left(X^{n}\right)=i^{-n}\,\varphi _{X}^{(n)}(0)=i^{-n}\,\left[{\frac {d^{n}}{dt^{n}}}\varphi _{X}(t)\right]_{t=0}.\,\!}$

例如，假设${\displaystyle X}$具有标准柯西分布。那么${\displaystyle \varphi _{X}(t)=e^{-|t|}}$。它在${\displaystyle t=0}$处不可微，说明柯西分布没有期望值。另外，注意到${\displaystyle n}$个独立的观测的样本平均值${\displaystyle {\overline {X}}}$具有特征函数${\displaystyle \varphi _{\overline {X}}(t)=(e^{-|t|/n})^{n}=e^{-|t|}}$，利用前一节的结果。这就是标准柯西分布的特征函数；因此，样本平均值与总体本身具有相同的分布。

特征函数的对数是一个累积量母函数，它对于求出累积量是十分有用的；注意有时定义累积量母函数为矩母函数的对数，而把特征函数的对数称为第二累积量母函数。

具有尺度参数θ和形状参数k的伽玛分布的特征函数为：

${\displaystyle (1-\theta \,i\,t)^{-k}}$。

现在假设我们有：

${\displaystyle \ X\sim \Gamma (k_{1},\theta )}$且${\displaystyle \ Y\sim \Gamma (k_{2},\theta )}$

其中X和Y相互独立，我们想要知道X + Y的分布是什么。X和Y特征函数分别为：

${\displaystyle \varphi _{X}(t)=(1-\theta \,i\,t)^{-k_{1}},\,\qquad \varphi _{Y}(t)=(1-\theta \,i\,t)^{-k_{2}}}$

根据独立性和特征函数的基本性质，可得：

${\displaystyle \varphi _{X+Y}(t)=\varphi _{X}(t)\varphi _{Y}(t)=(1-\theta \,i\,t)^{-k_{1}}(1-\theta \,i\,t)^{-k_{2}}=\left(1-\theta \,i\,t\right)^{-(k_{1}+k_{2})}}$。

这就是尺度参数为θ、形状参数为k₁ + k₂的伽玛分布的特征函数，因此我们得出结论：

${\displaystyle X+Y\sim \Gamma (k_{1}+k_{2},\theta )}$，

这个结果可以推广到n个独立、具有相同尺度参数的伽玛随机变量：

${\displaystyle \forall i\in \{1,\ldots ,n\}:X_{i}\sim \Gamma (k_{i},\theta )\qquad \Rightarrow \qquad \sum _{i=1}^{n}X_{i}\sim \Gamma \left(\sum _{i=1}^{n}k_{i},\theta \right)}$。

如果${\displaystyle X\sim N(0,\Sigma )\,}$是一个平均值为零的多元高斯随机变量，那么：

${\displaystyle \varphi _{X}(t)=\operatorname {E} \left(e^{it^{T}X}\right)=\int _{x\in \mathbf {R} ^{n}}{\frac {1}{\left(2\pi \right)^{n/2}\left|\Sigma \right|^{1/2}}}\,e^{-{\frac {1}{2}}x^{T}\Sigma ^{-1}x}\cdot e^{it^{T}x}\,dx=e^{-{\frac {1}{2}}t^{T}\Sigma t},\quad t\in \mathbf {R} ^{n},}$

其中${\displaystyle |\Sigma |}$表示正定矩阵 Σ的行列式。