一维特征函数的定义及性质
分布可以决定数字特征,但是数字特征无法决定分布,而特征函数可以唯一决定变量的分布
频谱分析,将定义域为时间的一个函数转换为以频率为自变量的函数。将傅里叶变换应用于分布函数之上。
由傅里叶变换定义一种特殊的数学期望,并且能够证明,这个数学期望一定是存在的,即任何一个随机变量都唯一地对应着一个特征函数。
FS变换之后,处理某些问题会变得容易,如
特征函数求随机变量的矩
用分布函数是积分运算,用特征函数是求导运算
特征函数求随机变量的中心矩
特征函数的定义
特征函数
复随机变量 Z=X+jY,其数学期望定义为 E(Z)=E(X)+jE(Y)
特别地,考察函数型随机变量 ejtξ的数学期望
E(ejtξ)=∫−∞+∞ejtξdFξ(x)=E(cos(tξ))+jE(sin(tξ))=∫−∞+∞cos(tξ)dFξ(x)+j∫−∞+∞sin(tξ)dFξ(x)
定义上述的含参变量积分为该随机变量的特征函数
φξ(t)=∫−∞+∞ejtξdFξ(x)
常见分布的特征函数
对分布函数做 FS 变换,得到特征函数
常见分布的特征函数
单点分布: φ(t)=E(ejtc)=ejtc,t∈R.
两点分布: φ(t)=ej⋅0(1−p)+ej⋅1p=1−p+peit=q+peit,t∈R.
二项分布: φ(t)=(q+pejt)n,t∈R
泊松分布: φ(t)=eλ(eit−1),t∈R
指数分布: φ(t)=(1−λjt)−1,t∈R
均匀分布: φ(t)=atsinat,t∈R
正态分布: φ(t)=ejμt−21σ2t2,t∈R
特征函数的性质
特征函数性质
极值
∣φ(t)∣≤∣φ(0)∣=1
共轭对称性
φ(t)=φ(−t)
指数线性
φaξ+b(t)=ejbtφξ(at)
特征函数一致连续
特征函数为非负定的函数
注:上述的 φ(0)=1,一致连续,非负定是本质性的。
Banach-辛钦定理
Banach-辛钦定理
函数 φ(t) 为特征函数的充要条件是在 R 上一致连续,非负定,且 φ(0)=1
特征函数与矩的关系
若随机变量 ξ的 n阶矩存在,则 ξ的特征函数 φ(t)的特征函数的 k,k=1,2,⋯,n阶导数 φ(k)(t)存在,且
E(ξk)=j−kφ(k)(0),(k≤n)
但这只是充分条件,不是必要条件,其逆不真
使用特征函数计算数学期望和方差
随机变量 ξ 的概率密度为:
f(x)={21cosx,0,−2π≤x≤2π;其它
求 E(ξ) 和 D(ξ) .
φ(t)=∫−π/2π/2ejtx21cosxdx=2∫02π21costxcosxdx=21∫0π[cos(t+1)x+cos(t−1)x]dx=21{t+11sin[(t+1)2π]+t−11[sin(t−1)2π]},t∈R.
故 E(ξ)=j−1φ′(0)=0
由于 φ′(0)=0,φ′′(0)=2−41π2.
D(ξ)=E(ξ2)=j−2φ′′(0)=−(2−41π2)=41π2−2.
正态分布的中心距
中心距
正态分布的 k阶矩为
E[(ξ−μ)k]={0,k为奇数1⋅3⋅3⋯(k−1)σk,k为偶数
反演公式与唯一性定理
特征函数如何唯一确定分布函数
反演公式
反演公式
随机变量 ξ的
分布函数 Fξ(x)
特征函数 φξ(t)
满足反演变换,
对于连续点 x1,x2有
Fξ(x2)−Fξ(x1)=∫−∞+∞jtejtx1−ejtx2φξ(t)dt
对于不连续点,也有 F(x)=2F(x−0)+F(x) ,由 F(x2)−F(x1) 满足反演公式。
离散型和连续型的反演公式
连续型: F′(x)=f(x)φ(t)=2π1∫−∞+∞e−jtxφ(t)dt=∫−∞+∞ejtxf(x)dx;
离散型: φ(t)=k=−∞∑∞pkejkt,t∈R.pk=2π1∫−ππe−jtkφ(t)dt
由反演公式可以知道,可以由特征函数计算概率,那么能否由特征函数唯一确定分布函数?
唯一性定理
唯一性定理
两个随机变量的分布函数相等的充要条件是其特征函数相等
反演公式,有概率密度函数为
fξ(x)=2π1∫−∞+∞e−jtxφξ(t)dt
对称地有
φξ(t)=∫−∞+∞ejtxfξ(x)dx
利用特征函数求概率密度
利用特征函数求概率密度
利用特征函数求概率密度
多维随机变量的特征函数
多维随机变量的 FS 变换
多维随机变量的特征函数
φ(t1,⋯,tn)=E[ej(t1ξ1+⋯tnξn)]
进一步地,利用函数型随机变量的期望公式,我们有
φ(t1,⋯,tn)=∫Rnej(t1x1+⋯tnxn)dF(x1,⋯,xn)
二维随机变量特征函数的计算公式
二维随机变量特征函数的计算公式
离散型随机变量 φ(t1,t2)=∫−∞∞∫−∞∞ej(t1x+t2y)f(x,y)dxdy
连续型随机变量 φ(t1,t2)=∑r∑sej(t1xr+t2ys)pr,s
多维随机变量特征函数的性质
最值
共轭对称
实平面上一致连续
边缘分布
n维正态的特征函数
φ(t)=exp{jMTt−21tTΣt}
其中,M是均值向量,Σ是协方差矩阵
注:特征函数可以给出退化形式的正态分布
随机变量的线性变换的特征函数
特征函数的线性变换
(ξ1,ξ2),考察 (a1ξ1+b1,a2ξ2+b2)的特征函数
Eej(t1a1ξ1+t1b1,t2a2ξ2+t2b2)=ej(t1b1+t2b2)φ(a1t1,a2t2)
考察 aξ1+bξ2+c的特征函数
Eejt(aξ1+bξ2+c)=ejtcφ(at,bt)
注:特征函数将线性运算变换成乘积运算
例题:利用特征函数求和变量的分布
特征函数求和变量的分布
特征函数求和变量的分布
特征函数与矩的关系
多维随机变量的特征函数与矩
如果 E(ξ1k1ξ2k2) 存在,则
E(ξ1k1ξ2k2)=j−(k1+k2)[∂t1k1∂t2k2∂k1+k2φ(t1,t2)]t1=t2=0
注:特征函数的各阶偏导数就对应了各阶矩
反演公式
反演公式
P{a1<ξ1≤b1,a2<ξ2≤b2}=(2π)21∫−∞+∞∫−∞+∞jt1e−jt1a1−e−jt1b1⋅jt2e−jt2a2−e−jt1b2φ(t1,t2)dt1dt2
要求 (ξ1,ξ2) 落在矩形 a1<ξ1≤b1,a2<ξ2≤b2 边界上的概率为 0.
唯一性定理
唯一性定理
特征函数与联合分布一一对应,唯一确定
随机变量相互独立在特征函数下的充要条件
随机变量相互独立在特征函数下的充要条件
φ(t1,⋯,tn)=∏k=1nφξk(tk)
注:相互独立情况下,联合分布函数等于边缘分布函数的乘积,从而可以推出该公式成立
在公式成立的情况下,利用反演公式,可以证明联合分布函数等于边缘分布函数的乘积。
相互独立条件下和变量的特征函数
η=ξ1+⋯+ξn
φη(t)=φ(t1,⋯,tn)=i=1∏nφξi(t)
独立同分布的随机变量的特征函数
η=ξ1+⋯+ξn
φη(t)=φ(t1,⋯,tn)=i=1∏nφξi(t)=[φ(t)]n
利用特征函数证明一些分布的可加性
二项分布
泊松分布
负二项分布
正态分布
Γ分布
泊松分布的可加性
设 X1 和 X2 是两个独立的泊松分布随机变量,其参数分别为 λ1 和 λ2 。我们需要证明 X1+X2 也是泊松分布,其参数为 λ1+λ2 。
X1+X2 的特征函数为:ϕX1+X2(t)=E[eit(X1+X2)]=E[eitX1eitX2]=E[eitX1]E[eitX2]=ϕX1(t)ϕX2(t)根据泊松分布的定义,其概率质量函数为:P(X=k)=k!λke−λ其特征函数为:ϕX(t)=E[eitX]=k=0∑∞eitkk!λke−λ=e−λk=0∑∞k!(λeit)k=e−λeλeit=eλ(eit−1)因此,我们有:ϕX1+X2(t)=ϕX1(t)ϕX2(t)=eλ1(eit−1)eλ2(eit−1)=e(λ1+λ2)(eit−1)这说明 X1+X2 的特征函数等于泊松分布的特征函数,因此 X1+X2 也是泊松分布。其参数为 λ1+λ2 .
两点分布与均匀分布的和分布为均匀分布
ξ∼B(1,21),η∼U(0,1),则有 ξ+η∼U(0,2)利用特征函数容易得到φξ(t)=21(1+ejt)
φη(t)=∫01ejtxdx=jtejt−1
从而有φξ+η(t)=φξ(t)φη(t)=2jte2jt−1
多维正态分布的相关结论
多为正态分布的任一子向量也服从正态分布。即联合正态,则边缘正态
多维正态分布下,随机变量相互独立等价于两两不相关,即协方差矩阵为对角矩阵
正态随机变量的线性变换不变性:若多维随机变量 ξ=(ξ1,ξ2,⋯,ξn)⊤ 服从多维正态分布 N(M,Σ) ,设 C=(cij)m×n 是任意矩阵,那么 η=Cξ 服从 m 维正态分布 N(CM,CΣ,C⊤)
(ξ1,ξ2,⋯,ξn) 服从 n 维正态分布的充要条件是它的任一个非零线性组合 i=1∑nliξi 服从一维正态分布.