杨敬轩 Jingxuan Yang Tsinghua University

应用随机过程|第4章 离散鞅引论


4.1 定义与例子

定义 关于自己是鞅

随机过程 Xn:n0, 若  n0, 有

  • $E X_n <\infty$
  • $E(X_{n+1} X_0,X_1,\cdots,X_n)=X_n$

定义 关于另一个过程是鞅

设有两个过程, Xn:n0Yn:n0, 称 Xn:n0 关于 Yn:n0, 若

  • $E X_n <\infty$
  • $E(X_{n+1} Y_0,Y_1,\cdots,Y_n)=X_n$

由全期望公式易知鞅在任何时刻的期望均相等, EXn+1=E[E(Xn+1|Y0,Y1,,Yn)]=EXn=EX0

例题 似然比构成的鞅

Y0,Y1,,Yn, 是独立同分布随机变量序列, f0f1 是概率密度函数, 令 Xn=f1(Y0)f1(Y1)f1(Yn)f0(Y0)f0(Y1)f0(Yn), n0

假设 yR, f0(y)>0, 且 Yn 的概率密度函数为 f0, 则 Xn:n0 关于 Yn:n0 是鞅.

证明: 首先计算单个比值的期望,  i=0,1,, 有 E[f1(Yi)f0(Yi)]=f1(y)f0(y)f0(y)dy=1

则同理由独立同分布可证连乘的绝对值期望有限 E|Xn|=E[f1(Y0)f1(Y1)f1(Yn)f0(Y0)f0(Y1)f0(Yn)]=ni=0E[f1(Yi)f0(Yi)]=1<

其次有 E(Xn+1|Y0,Y1,,Yn)=E[Xnf1(Yn+1)f0(Yn+1)|Y0,Y1,,Yn]=XnE[f1(Yn+1)f0(Yn+1)]=Xn

因此 Xn:n0 关于 Yn:n0 是鞅.

例题 Doob 鞅过程

Y0,Y1,,Yn, 是任一随机变量序列, 有随机变量 X 满足 E|X|<, 令 Xn=E(X|Y0,Y1,,Yn)

Xn:n0 关于 Yn:n0 是鞅, 并称之为 Doob 过程.

证明: 易知 E|Xn|=E|E(X|Y0,Y1,,Yn)|E[E(|X||Y0,Y1,,Yn)]=E|X|<

又由多元随机变量的全期望公式可得 E(Xn+1|Y0,Y1,,Yn)=E[E(X|Y0,Y1,,Yn+1)|Y0,Y1,,Yn]=E(X|Y0,Y1,,Yn)=Xn

因此 Xn:n0 关于 Yn:n0 是鞅.

4.2 上下鞅及分解定理

定义 上鞅

Xn:n0Yn:n0 是随机过程, 称 Xn:n0 关于 Yn:n0上鞅, 若

  • $E X_n <\infty$
  • $E(X_{n+1} Y_0,Y_1,\cdots,Y_n)\leqslant X_n$
  • XnY0,Y1,,Yn 的函数

定义 下鞅

Xn:n0Yn:n0 是随机过程, 称 Xn:n0 关于 Yn:n0下鞅, 若

  • $E X_n <\infty$
  • $E(X_{n+1} Y_0,Y_1,\cdots,Y_n)\geqslant X_n$
  • XnY0,Y1,,Yn 的函数

定理 期望 Jensen 不等式

ϕ(x) 为凸函数, 则由 Jensen 不等式可知

E(ϕ(X))ϕ(EX)

引理 凸函数构造下鞅

Xn:n0 关于 Yn:n0 是鞅, ϕ(x)凸函数 n0, $E \phi(X_n) <\infty,{\phi(X_n):n\geqslant0}{Y_n:n\geqslant0}$ 的下鞅.

推论

Xn:n0 关于 Yn:n0 是鞅, 且  n0, $E X_n ^2<\infty,{ X_n :n\geqslant0}{X_n^2:n\geqslant0}{Y_n:n\geqslant0}$ 的下鞅.

上下鞅的基本性质

  • Xn:n0 关于 Yn:n0 是上鞅, 则 E(Xn+k|Y0,Y1,,Yn)Xn,  k0
  • Xn:n0 关于 Yn:n0 是上鞅, 则 EXnEXkEX0,  0kn
  • Xn:n0 关于 Yn:n0 是上鞅, g 是关于 Y0,Y1,,Yn 的非负函数, 则 E[g(Y0,Y1,,Yn)Xn+k|Y0,Y1,,Yn]g(Y0,Y1,,Yn)Xn,  k0

定理 鞅分解定理

Xn:n0 关于 Yn:n0 是下鞅, 则必存在过程 Mn:n0Zn:n0, 使得

  • Mn:n0 关于 Yn:n0 是鞅
  • ZnY0,Y1,,Yn1 的函数, 且 Z0=0, ZnZn+1, EZn<, n1
  • Xn=Mn+Zn,  n0

由本定理可知, 一个下鞅总可分解为一个鞅与一增过程之和.

4.3 停时与停时定理

定义 停时

设取值为非负整数的随机变量 T 及随机序列 Yn:n0, Fn=σ(Y0,Y1,,Yn) 若对  n0, 有 {ω:T(ω)=n}Fn 则称 T 是关于 Yn:n0停时.

注释 停时

设取值为非负整数的随机变量 T 及随机序列 Yn:n0, 若对  n0, 事件 ω:T(ω)=n 的示性函数 11T(ω)=n(ω) 仅是 Y0,Y1,,Yn 的函数, 则称 T 是关于 Yn:n0停时.

定义中要求的事件是 T=n, 实际上也可以用 Tn, T<n, Tn, T>n 代替.

11T(ω)=n(ω) 仅是 Y0,Y1,,Yn 的函数则在计算条件期望的时候可以直接提出.

停时性质

  • T=k, kN 是停时, 即常数是停时
  • T1,T2 是关于 Yn:n0 的两个停时, 则 T1+T2, T1T2, T1T2 均是停时

引理 降序号

Xn:n0 关于 Yn:n0 是鞅, T 是关于 Yn:n0 的停时, 则  nk, 有 E(Xn11{T=k})=E(Xk11{T=k})

引理 取小停时的期望

Xn:n0 关于 Yn:n0 是鞅, T 是关于 Yn:n0 的停时, 则  n1, 有 EX0=EXTn=EXn

引理

X 是随机变量满足 E|X|<, T 是关于 Yn:n0 的停时, 且 P(Y<)=1, 则 limnE(X11{T>n})=0limnE(X11{Tn})=1

定理 停时定理

Xn:n0 关于 Yn:n0 是鞅, T 是关于 Yn:n0 的停时, P(T<)=1E(supn0|XTn|)<

EXT=EX0

推论 停时定理

Xn:n0 关于 Yn:n0 是鞅, T 是关于 Yn:n0 的停时, 若 ET<, 且存在常数 b< 满足对  n<T, 有 E(|Xn+1Xn||Y0,Y1,,Yn)b

EXT=EX0

定理 停时定理

Xn:n0 关于 Yn:n0 是鞅, T 是关于 Yn:n0 的停时, 若

  • P(T<)=1
  • $E X_T <\infty$
  • $\lim_{n\to\infty}E X_n\pmb{1}_{{T>n}} =0$

EXT=EX0

推论 停时定理

Xn:n0 关于 Yn:n0 是鞅, T 是关于 Yn:n0 的停时, 若

  • P(T<)=1
  • 对某个 k<,  n0, E(X2Tn)kEXT=EX0

推论 停时定理

Y0=0, Yk:k1 独立同分布, EYk=μ, DYk=σ2<, 令 S0=0, Sn=nk=1Yk, Xn=SnnμT 为停时, ET<, 则 E|XT|<, 且 EXT=ESTμET=0

4.4 鞅收敛定理

引理 上穿不等式

Xn:n0 关于 Yn:n0 是下鞅, V(n)(a,b) 表示 {Xk:0k<n} 上穿区间 (a,b) 的次数, a<b, 则 E[V(n)(a,b)]E(Xna)+E(X0a)+baEX+n+|a|ba

这里记 a+=max{a,0}=a0

定理 鞅收敛定理

Xn:n0 关于 Yn:n0下鞅, supnE|Xn|<

则存在随机变量 X, 使得 P(limnXn=X)=1

且 $E X_\infty <\infty$.

证明: 由于 EX+nE|Xn|2EX+nEXn

supnE|Xn|<supnEX+n<

n 时, V(n)(a,b)V(a,b)Xn 上穿 (a,b) 的次数, 故 E[V(a,b)]=E[limnV(n)(a,b)]=limnE[V(n)(a,b)]limnEX+n+|a|basupnEX+n+|a|ba<

因此 P(V(a,b)<)=1

即当 n 时, Xn(ω) 以概率 1 存在极限, 设 limnXn=X

P(limnXn=X)=1

另外, 由 Fatou 引理 E|X|=E(limn|Xn|)limnE|Xn|supnE|Xn|<

E|X|<

定理 Chebyshev 不等式与 Kolmogorov 不等式

Yk:k0 独立同分布, EYk=0, EY2k=σ2<, 令 X0=0, Xn=nk=1Yk 则由 Chebyshev 不等式有 ε2P(|Xn|>ε)nσ2

由 Kolmogorov 不等式有 ε2P(max0kn|Xk|>ε)nσ2

EX2n=E(nk=1Yk)2=nk=1EY2k=nσ2

可知 ε2P(max0kn|Xk|>ε)=ε2P(max0knX2k>ε2)EX2n

定理 最大值不等式

Xn:n0 关于 Yn:n0下鞅, 且  n0Xn0, 则对  λ>0λP(max0knXk>λ)EXn

推论

Xn:n0 关于 Yn:n0, 则对  λ>0λP(max0kn|Xk|>λ)E|Xn|

证明: 易知  n0 有 $ X_n \geqslant0$ 且是下鞅, 则由最大值不等式立即可得.

定理

Xn:n0 关于 Yn:n0, 且存在常数 k 使得  n0EX2nk< 则存在有限随机变量 X, 使得 Xn:n0 不仅依概率收敛 P(limnXn=X)=1

而且均方收敛 limnE|XnX|2=0

例题 最大值不等式

 n1, EX2nk<. 令 Sn=nk=1Xk 已知 Sn:n1 是鞅, 证明  ε>0, 有 limnP(|Snn|>ε)=0

证明: 易知 Xi=SiSi1, 则对  i<j全期望公式, 条件期望平滑性以及鞅的降序性E(XiXj)=E[(SiSi1)(SjSj1)]=E(SiSjSi1SjSiSj1+Si1Sj1)=E[E(SiSjSi1SjSiSj1+Si1Sj1|S1,S2,,Si)]=E(S2iSi1SiS2i+Si1Si)=0

故由题给不等式有 ES2n=E(nk=1Xk)2=nk=1EX2k+2i<jE(XiXj)nk

则由最大值不等式可得 P(|Snn|>ε)=P(|Sn|>nε)=P(S2n>n2ε2)ES2nn2ε2nkn2ε2=knε2

所以 limnP(|Snn|>ε)limnknε2=0

limnP(|Snn|>ε)=0

例题 最大值不等式

Xn:n0 是鞅, 且对某一 α>1, E|Xn|α<,  n0. 证明 E(max0kn|Xk|)αα1(E|Xn|α)1/α

证明: 易知 |Xn|α 是下鞅, 则由非负随机变量的期望计算方法, 概率值恒小于等于 1 以及最大值不等式有 E(max0kn|Xk|)=0P(max0kn|Xk|>t)dt=0P(max0kn|Xk|α>tα)dt(E|Xn|α)1/α01dt+(E|Xn|α)1/αP(max0kn|Xk|α>tα)dt(E|Xn|α)1/α+(E|Xn|α)1/αE|Xn|αtαdt=(E|Xn|α)1/α+1α+1E|Xn|αtα+1|(E|Xn|α)1/α=(E|Xn|α)1/α+1α1(E|Xn|α)1/α=αα1(E|Xn|α)1/α

4.5 连续参数鞅

定义 鞅

随机过程 Xt:t0, 若

  •  t0, 有 $E X_t <\infty$
  •  0t1<<tn<tn+1, 有 E(Xtn+1|Xt1,Xt2,,Xtn)=Xtn

定义 停时

对随机过程 X=Xt:t0, 若取值于 [0,] 上的随机变量 T 满足  t0, Tt{Xs:0st} 决定, 则称 T 关于 X停时.

定理 停时定理

Xt:t0 是鞅, T 是停时, 若 P(T<)=1E(supt0|XTt|)<

EXT=EX0

参考文献

  • 林元烈. 应用随机过程[M]. 北京: 清华大学出版社, 2002.
  • 何声武. 随机过程导论[M]. 北京: 高等教育出版社, 1999.
  • Ross S M. Stochastic Processes[M]. John Wiley and Sons, 1993.

Similar Posts

Comments