UA MATH563 概率论的数学基础 中心极限定理14 Kolmogorov maximal inequality

UA MATH563 概率论的数学基础 中心极限定理14 Kolmogorov maximal inequality

这一讲介绍一个有用的不等式，它给出了独立随机变量的和的最值的tail probability的阶。

Kolmogorov maximal inequality
假设$X_1,\cdots ,X_n$是独立的随机变量，并且$E{X}_i=0,Var{X}_i<\infty$，则
$$P(\underset{1\le k\le n}{\max }|S_k|\ge x)\le \frac{Var(S_n)}{x^2}$$

其中
$$S_k=\sum _{i=1}^k{X}_i$$

说明
与Chebyshev不等式的对比：
$$P(|S_n|\ge x)\le \frac{Var(S_n)}{x^2}$$

显然Kolmogorov maximal inequality比Chebyshev不等式更强，虽然它们提供一样的上界，但Chebyshev不等式只讨论前$n$项和，Kolmogorov maximal inequality讨论的是前$n$个部分和的最大值；但是需要注意的是Chebyshev不等式不要求独立性，但Kolmogorov maximal inequality是要求的。

---

证明
考虑事件$\{{\max }_{1\le k\le n}|S_k|\ge x\}$，我们可以做一个分解
$$\{\underset{1\le k\le n}{\max }|S_k|\ge x\}=\underset{k\ge 1}{⨆}{A}_k$$

其中
$$A_k=\{|S_k|\ge x,|S_j|<x,\forall j<k\}$$

计算
$$\begin{gathered} Var(S_n)=E[S_n^2]={\int }_{\Omega }{S}_n^{2}dP\ge {\int }_{{⨆}_{k=1}^n{A}_k}{S}_n^{2}dP \\ =\sum _{k=1}^n{\int }_{A_k}{S}_n^{2}dP=\sum _{k=1}^n{\int }_{A_k}[S_k^2+2S_k(S_n-S_k)+(S_n-S_k{)}^2]dP \\ \ge \sum _{k=1}^n{\int }_{A_k}[S_k^2+2S_k(S_n-S_k)]dP \end{gathered}$$

考虑第二项，$2S_k{1}_{A_k}$在$\sigma (\{X_1,\cdots ,X_k\})$中可测，$S_n-S_k$在$\sigma (\{X_{k+1},\cdots ,X_n\})$中可测，也就是说$2S_k{1}_{A_k}$与$S_n-S_k$独立，并且$E[S_n-S_k]=0$，所以
$$\begin{gathered} {\int }_{A_k}2S_k(S_n-S_k)dP=\int 2S_k{1}_{A_k}dP\int (S_n-S_k)dP \\ =\int 2S_k{1}_{A_k}dPE[S_n-S_k]=0 \end{gathered}$$

因此
$$\begin{gathered} Var(S_n)\ge \sum _{k=1}^n{\int }_{A_k}{S}_k^{2}dP\ge \sum _{k=1}^{\infty }{\int }_{A_k}{x}^{2}dP=x^2\sum _{k=1}^{n}P(A_k) \\ =x^{2}P(\underset{k\ge 1}{⨆}{A}_k)=x^{2}P(\underset{1\le k\le n}{\max }|S_k|\ge x) \end{gathered}$$

总结

以上是生活随笔为你收集整理的UA MATH563 概率论的数学基础 中心极限定理14 Kolmogorov maximal inequality的全部内容，希望文章能够帮你解决所遇到的问题。

如果觉得生活随笔网站内容还不错，欢迎将生活随笔推荐给好友。