4.1 定义与例子
定义 关于自己是鞅
随机过程 Xn:n⩾0 是鞅, 若 ∀ n⩾0, 有
-
$E X_n <\infty$ -
$E(X_{n+1} X_0,X_1,\cdots,X_n)=X_n$
定义 关于另一个过程是鞅
设有两个过程, Xn:n⩾0 和 Yn:n⩾0, 称 Xn:n⩾0 关于 Yn:n⩾0 是鞅, 若
-
$E X_n <\infty$ -
$E(X_{n+1} Y_0,Y_1,\cdots,Y_n)=X_n$
由全期望公式易知鞅在任何时刻的期望均相等, EXn+1=E[E(Xn+1|Y0,Y1,⋯,Yn)]=EXn=EX0
例题 似然比构成的鞅
设 Y0,Y1,⋯,Yn,⋯ 是独立同分布随机变量序列, f0 和 f1 是概率密度函数, 令 Xn=f1(Y0)f1(Y1)⋯f1(Yn)f0(Y0)f0(Y1)⋯f0(Yn), n⩾0
假设 ∀y∈R, f0(y)>0, 且 Yn 的概率密度函数为 f0, 则 Xn:n⩾0 关于 Yn:n⩾0 是鞅.
证明: 首先计算单个比值的期望, ∀ i=0,1,⋯, 有 E[f1(Yi)f0(Yi)]=∫∞−∞f1(y)f0(y)f0(y)dy=1
则同理由独立同分布可证连乘的绝对值期望有限 E|Xn|=E[f1(Y0)f1(Y1)⋯f1(Yn)f0(Y0)f0(Y1)⋯f0(Yn)]=n∏i=0E[f1(Yi)f0(Yi)]=1<∞
其次有 E(Xn+1|Y0,Y1,⋯,Yn)=E[Xnf1(Yn+1)f0(Yn+1)|Y0,Y1,⋯,Yn]=XnE[f1(Yn+1)f0(Yn+1)]=Xn
因此 Xn:n⩾0 关于 Yn:n⩾0 是鞅.
例题 Doob 鞅过程
设 Y0,Y1,⋯,Yn,⋯ 是任一随机变量序列, 有随机变量 X 满足 E|X|<∞, 令 Xn=E(X|Y0,Y1,⋯,Yn)
Xn:n⩾0 关于 Yn:n⩾0 是鞅, 并称之为 Doob 过程.
证明: 易知 E|Xn|=E|E(X|Y0,Y1,⋯,Yn)|⩽E[E(|X||Y0,Y1,⋯,Yn)]=E|X|<∞
又由多元随机变量的全期望公式可得 E(Xn+1|Y0,Y1,⋯,Yn)=E[E(X|Y0,Y1,⋯,Yn+1)|Y0,Y1,⋯,Yn]=E(X|Y0,Y1,⋯,Yn)=Xn
因此 Xn:n⩾0 关于 Yn:n⩾0 是鞅.
4.2 上下鞅及分解定理
定义 上鞅
设 Xn:n⩾0 与 Yn:n⩾0 是随机过程, 称 Xn:n⩾0 关于 Yn:n⩾0 是上鞅, 若
-
$E X_n <\infty$ -
$E(X_{n+1} Y_0,Y_1,\cdots,Y_n)\leqslant X_n$ - Xn 是 Y0,Y1,⋯,Yn 的函数
定义 下鞅
设 Xn:n⩾0 与 Yn:n⩾0 是随机过程, 称 Xn:n⩾0 关于 Yn:n⩾0 是下鞅, 若
-
$E X_n <\infty$ -
$E(X_{n+1} Y_0,Y_1,\cdots,Y_n)\geqslant X_n$ - Xn 是 Y0,Y1,⋯,Yn 的函数
定理 期望 Jensen 不等式
设 ϕ(x) 为凸函数, 则由 Jensen 不等式可知
E(ϕ(X))⩾ϕ(EX)引理 凸函数构造下鞅
若 Xn:n⩾0 关于 Yn:n⩾0 是鞅, ϕ(x) 为凸函数且 ∀ n⩾0, $E | \phi(X_n) | <\infty,则{\phi(X_n):n\geqslant0}是关于{Y_n:n\geqslant0}$ 的下鞅. |
推论
若 Xn:n⩾0 关于 Yn:n⩾0 是鞅, 且 ∀ n⩾0, $E | X_n | ^2<\infty,则{ | X_n | :n\geqslant0}与{X_n^2:n\geqslant0}是关于{Y_n:n\geqslant0}$ 的下鞅. |
上下鞅的基本性质
- 若 Xn:n⩾0 关于 Yn:n⩾0 是上鞅, 则 E(Xn+k|Y0,Y1,⋯,Yn)⩽Xn, ∀ k⩾0
- 若 Xn:n⩾0 关于 Yn:n⩾0 是上鞅, 则 EXn⩽EXk⩽EX0, ∀ 0⩽k⩽n
- 若 Xn:n⩾0 关于 Yn:n⩾0 是上鞅, g 是关于 Y0,Y1,⋯,Yn 的非负函数, 则 E[g(Y0,Y1,⋯,Yn)Xn+k|Y0,Y1,⋯,Yn]⩽g(Y0,Y1,⋯,Yn)Xn, ∀ k⩾0
定理 鞅分解定理
若 Xn:n⩾0 关于 Yn:n⩾0 是下鞅, 则必存在过程 Mn:n⩾0 与 Zn:n⩾0, 使得
- Mn:n⩾0 关于 Yn:n⩾0 是鞅
- Zn 是 Y0,Y1,⋯,Yn−1 的函数, 且 Z0=0, Zn⩽Zn+1, EZn<∞,∀ n⩾1
- Xn=Mn+Zn, ∀ n⩾0
由本定理可知, 一个下鞅总可分解为一个鞅与一增过程之和.
4.3 停时与停时定理
定义 停时
设取值为非负整数的随机变量 T 及随机序列 Yn:n⩾0, Fn=σ(Y0,Y1,⋯,Yn) 若对 ∀ n⩾0, 有 {ω:T(ω)=n}∈Fn 则称 T 是关于 Yn:n⩾0 的停时.
注释 停时
设取值为非负整数的随机变量 T 及随机序列 Yn:n⩾0, 若对 ∀ n⩾0, 事件 ω:T(ω)=n 的示性函数 11T(ω)=n(ω) 仅是 Y0,Y1,⋯,Yn 的函数, 则称 T 是关于 Yn:n⩾0 的停时.
定义中要求的事件是 T=n, 实际上也可以用 T⩽n, T<n, T⩾n, T>n 代替.
11T(ω)=n(ω) 仅是 Y0,Y1,⋯,Yn 的函数则在计算条件期望的时候可以直接提出.
停时性质
- T=k, k∈N 是停时, 即常数是停时
- 设 T1,T2 是关于 Yn:n⩾0 的两个停时, 则 T1+T2, T1∧T2, T1∨T2 均是停时
引理 降序号
设 Xn:n⩾0 关于 Yn:n⩾0 是鞅, T 是关于 Yn:n⩾0 的停时, 则 ∀ n⩾k, 有 E(Xn11{T=k})=E(Xk11{T=k})
引理 取小停时的期望
设 Xn:n⩾0 关于 Yn:n⩾0 是鞅, T 是关于 Yn:n⩾0 的停时, 则 ∀ n⩾1, 有 EX0=EXT∧n=EXn
引理
设 X 是随机变量满足 E|X|<∞, T 是关于 Yn:n⩾0 的停时, 且 P(Y<∞)=1, 则 limn→∞E(X11{T>n})=0limn→∞E(X11{T⩽n})=1
定理 停时定理
设 Xn:n⩾0 关于 Yn:n⩾0 是鞅, T 是关于 Yn:n⩾0 的停时, P(T<∞)=1 且 E(supn⩾0|XT∧n|)<∞
则 EXT=EX0
推论 停时定理
设 Xn:n⩾0 关于 Yn:n⩾0 是鞅, T 是关于 Yn:n⩾0 的停时, 若 ET<∞, 且存在常数 b<∞ 满足对 ∀ n<T, 有 E(|Xn+1−Xn||Y0,Y1,⋯,Yn)⩽b
则 EXT=EX0
定理 停时定理
设 Xn:n⩾0 关于 Yn:n⩾0 是鞅, T 是关于 Yn:n⩾0 的停时, 若
- P(T<∞)=1
-
$E X_T <\infty$ -
$\lim_{n\to\infty}E X_n\pmb{1}_{{T>n}} =0$
则 EXT=EX0
推论 停时定理
设 Xn:n⩾0 关于 Yn:n⩾0 是鞅, T 是关于 Yn:n⩾0 的停时, 若
- P(T<∞)=1
- 对某个 k<∞, ∀ n⩾0, E(X2T∧n)⩽k 则 EXT=EX0
推论 停时定理
设 Y0=0, Yk:k⩾1 独立同分布, EYk=μ, DYk=σ2<∞, 令 S0=0, Sn=∑nk=1Yk, Xn=Sn−nμ 若 T 为停时, ET<∞, 则 E|XT|<∞, 且 EXT=EST−μET=0
4.4 鞅收敛定理
引理 上穿不等式
设 Xn:n⩾0 关于 Yn:n⩾0 是下鞅, V(n)(a,b) 表示 {Xk:0⩽k<n} 上穿区间 (a,b) 的次数, a<b, 则 E[V(n)(a,b)]⩽E(Xn−a)+−E(X0−a)+b−a⩽EX+n+|a|b−a
这里记 a+=max{a,0}=a∨0
定理 鞅收敛定理
设 Xn:n⩾0 关于 Yn:n⩾0 是下鞅, supnE|Xn|<∞
则存在随机变量 X∞, 使得 P(limn→∞Xn=X∞)=1
且 $E | X_\infty | <\infty$. |
证明: 由于 EX+n⩽E|Xn|⩽2EX+n−EXn
故 supnE|Xn|<∞⇔supnEX+n<∞
当 n→∞ 时, V(n)(a,b)→V(a,b) 即 Xn 上穿 (a,b) 的次数, 故 E[V(a,b)]=E[limn→∞V(n)(a,b)]=limn→∞E[V(n)(a,b)]⩽limn→∞EX+n+|a|b−a⩽supnEX+n+|a|b−a<∞
因此 P(V(a,b)<∞)=1
即当 n→∞ 时, Xn(ω) 以概率 1 存在极限, 设 limn→∞Xn=X∞
则 P(limn→∞Xn=X∞)=1
另外, 由 Fatou 引理 E|X∞|=E(limn→∞|Xn|)⩽limn→∞E|Xn|⩽supnE|Xn|<∞
即 E|X∞|<∞
定理 Chebyshev 不等式与 Kolmogorov 不等式
设 Yk:k⩾0 独立同分布, EYk=0, EY2k=σ2<∞, 令 X0=0, Xn=∑nk=1Yk 则由 Chebyshev 不等式有 ε2P(|Xn|>ε)⩽nσ2
由 Kolmogorov 不等式有 ε2P(max0⩽k⩽n|Xk|>ε)⩽nσ2
由 EX2n=E(n∑k=1Yk)2=n∑k=1EY2k=nσ2
可知 ε2P(max0⩽k⩽n|Xk|>ε)=ε2P(max0⩽k⩽nX2k>ε2)⩽EX2n
定理 最大值不等式
设 Xn:n⩾0 关于 Yn:n⩾0 是下鞅, 且 ∀ n⩾0 有 Xn⩾0, 则对 ∀ λ>0 有 λP(max0⩽k⩽nXk>λ)⩽EXn
推论
设 Xn:n⩾0 关于 Yn:n⩾0 是鞅, 则对 ∀ λ>0 有 λP(max0⩽k⩽n|Xk|>λ)⩽E|Xn|
证明: 易知 ∀ n⩾0 有 $ | X_n | \geqslant0$ 且是下鞅, 则由最大值不等式立即可得. |
定理
设 Xn:n⩾0 关于 Yn:n⩾0 是鞅, 且存在常数 k 使得 ∀ n⩾0 有 EX2n⩽k<∞ 则存在有限随机变量 X∞, 使得 Xn:n⩾0 不仅依概率收敛 P(limn→∞Xn=X∞)=1
而且均方收敛 limn→∞E|Xn−X∞|2=0
例题 最大值不等式
设 ∀ n⩾1, EX2n⩽k<∞. 令 Sn=∑nk=1Xk 已知 Sn:n⩾1 是鞅, 证明 ∀ ε>0, 有 limn→∞P(|Snn|>ε)=0
证明: 易知 Xi=Si−Si−1, 则对 ∀ i<j 由全期望公式, 条件期望平滑性以及鞅的降序性有 E(XiXj)=E[(Si−Si−1)(Sj−Sj−1)]=E(SiSj−Si−1Sj−SiSj−1+Si−1Sj−1)=E[E(SiSj−Si−1Sj−SiSj−1+Si−1Sj−1|S1,S2,⋯,Si)]=E(S2i−Si−1Si−S2i+Si−1Si)=0
故由题给不等式有 ES2n=E(n∑k=1Xk)2=n∑k=1EX2k+2∑i<jE(XiXj)⩽nk
则由最大值不等式可得 P(|Snn|>ε)=P(|Sn|>nε)=P(S2n>n2ε2)⩽ES2nn2ε2⩽nkn2ε2=knε2
所以 limn→∞P(|Snn|>ε)⩽limn→∞knε2=0
故 limn→∞P(|Snn|>ε)=0
例题 最大值不等式
设 Xn:n⩾0 是鞅, 且对某一 α>1, E|Xn|α<∞, ∀ n⩾0. 证明 E(max0⩽k⩽n|Xk|)⩽αα−1(E|Xn|α)1/α
证明: 易知 |Xn|α 是下鞅, 则由非负随机变量的期望计算方法, 概率值恒小于等于 1 以及最大值不等式有 E(max0⩽k⩽n|Xk|)=∫∞0P(max0⩽k⩽n|Xk|>t)dt=∫∞0P(max0⩽k⩽n|Xk|α>tα)dt⩽∫(E|Xn|α)1/α01dt+∫∞(E|Xn|α)1/αP(max0⩽k⩽n|Xk|α>tα)dt⩽(E|Xn|α)1/α+∫∞(E|Xn|α)1/αE|Xn|αtαdt=(E|Xn|α)1/α+1−α+1E|Xn|αt−α+1|∞(E|Xn|α)1/α=(E|Xn|α)1/α+1α−1(E|Xn|α)1/α=αα−1(E|Xn|α)1/α
4.5 连续参数鞅
定义 鞅
随机过程 Xt:t⩾0 是鞅, 若
-
∀ t⩾0, 有 $E X_t <\infty$ - ∀ 0⩽t1<⋯<tn<tn+1, 有 E(Xtn+1|Xt1,Xt2,⋯,Xtn)=Xtn
定义 停时
对随机过程 X=Xt:t⩾0, 若取值于 [0,∞] 上的随机变量 T 满足 ∀ t⩾0, T⩽t 由 {Xs:0⩽s⩽t} 决定, 则称 T 关于 X 是停时.
定理 停时定理
设 Xt:t⩾0 是鞅, T 是停时, 若 P(T<∞)=1 且 E(supt⩾0|XT∧t|)<∞
则 EXT=EX0
参考文献
- 林元烈. 应用随机过程[M]. 北京: 清华大学出版社, 2002.
- 何声武. 随机过程导论[M]. 北京: 高等教育出版社, 1999.
- Ross S M. Stochastic Processes[M]. John Wiley and Sons, 1993.