概率论第十二周作业
习题五 T1
\(\xi\) 为非负随机变量，若 \(E(\mathrm{e}^{a \xi})<\infty,(a>0)\) ，则对任意 \(x>0\) ，
$$ P (\xi \geqslant x)\leqslant \dfrac{E(\mathrm{e}^{a \xi})}{\mathrm{e}^{ax}} $$
对随机变量 \(\mathrm{e}^{a \xi}\) 使用 Markov 不等式有：
\[
P(\mathrm{e}^{a \xi} \geqslant \mathrm{e}^{ax}) \leqslant \dfrac{E(\mathrm{e}^{a \xi})}{\mathrm{e}^{ax}}
\]
而 \(f(x)= \mathrm{e}^{ax}\) 为单调增函数，有
\[
P (\xi \geqslant x)\leqslant \dfrac{E(\mathrm{e}^{a \xi})}{\mathrm{e}^{ax}}
\]
成立. \(\square\)
习题五 T2
若 \(h(x) \geqslant 0\) ，\(\xi\) 为随机变量，且 \(E[h(\xi)]< \infty\) ，则关于任何 \(C>0\) ，
$$ P(h(\xi) \geqslant C) \leqslant \dfrac{E[h(\xi)]}{C} $$
\(h(\xi)\) 为非负的随机变量，且其期望存在，那么利用 Markov 不等式有
\[
P(h(\xi) \geqslant C) \leqslant \dfrac{E[h(\xi)]}{C}
\]
其中绝对值符号由非负性去掉. \(\square\)
习题五 T3
（单边 Chebyshev 不等式，Cantelli 不等式）
设 \(\xi\) 为随机变量，\(E(\xi) = 0\) ，\(D(\xi) = \sigma^2<\infty\) ，则对任何一个 \(a>0\) ，试证明：
$$ P(\xi \geqslant a) \leqslant \dfrac{\sigma^2}{\sigma^2+a^2} $$
利用 Markov 不等式有：
\[
\begin{aligned}
P(\xi \geqslant a) & = P(\xi+ u \geqslant a +u) \\
&\leqslant P[(\xi+u)^2 \geqslant (a+u)^2] \\
& \leqslant \dfrac{E(\xi+u)^2}{(a+u)^2} \\
& = \dfrac{\sigma^2+u^2}{(a+u)^2}
\end{aligned}
\]
考虑换元有 \(v = a+u\) ，可得
\[
(a^2 + \sigma^2) \frac{1}{v^2} - 2a \frac{1}{v} +1
\]
当 \(u = \dfrac{\sigma^2}{a}\) 时有最小值，代入有
\[
P(\xi \geqslant a) \leqslant \dfrac{\sigma^2}{\sigma^2+a^2}
\]
\(\square\)
习题五 T8
(Bernstein 定理)
已知随机变量序列 \(\xi_1,\xi_2,\cdots\) 的方差有界：\(D \xi_n \leqslant C\) ，并且当 \(|i-j|\to \infty\) 时，相关系数 \(r_{ij}\to 0\) ，证明对 \(\left\lbrace \xi_n \right\rbrace\) 成立大数定律.
即 \(|i-j|\to \infty\) 时，相关系数
\[
r_{ij} = \dfrac{E[(\xi_i - E \xi_i)(\xi_j - E \xi_j)]}{\sqrt{ D \xi_i}\sqrt{D \xi_j}}\to 0
\]
即，任意 \(\varepsilon>0\) ，存在 \(N\in \mathbb{N}\) 使得 \(|i-j| >N\) 时有
\[
|r_{ij}| < \varepsilon
\]
那么：
\[
\begin{aligned}
\frac{1}{n^2}D\left(\sum\limits_{i=1}^n \xi_i\right) & = \frac{1}{n^2}\left[\sum\limits_{i=1}^n D(\xi_i) + \sum\limits_{1 \leqslant i < j \leqslant n}\mathrm{cov}(\xi_i,\xi_j)\right] \\
& = \frac{1}{n^2} \sum\limits_{i=1}^n D(\xi_i) + \frac{1}{n^2} \sum\limits_{j-i> N} \mathrm{cov}(\xi_i,\xi_j) + \frac{1}{n^2} \sum\limits_{j-i \leqslant N}\mathrm{cov}(\xi_i,\xi_j) \\
& \leqslant \frac{C}{n} + \dfrac{C}{n^2 }\dfrac{n(n-1)}{2} \varepsilon + \frac{1}{n} NC
\end{aligned}
\]
当 \(n\) 足够大时最后的式子 \(< \varepsilon\) ，从而由 Markov 大数定律可知 \(\left\lbrace \xi_n \right\rbrace\) 服从大数定律. \(\square\)
习题五 T20
设分布函数列 \(\left\lbrace F_n(x) \right\rbrace\) 满足 \(F_n\xrightarrow{w}F\) ，且 \(F(x)\) 为连续分布函数，试证明这收敛对 \(x\in \mathbb{R}^1\) 是一致的.
由于 \(F\in C (\mathbb{R})\) ，即证明
\[
F_n\to F, F\in C(\mathbb{R}) \Rightarrow F_n \rightrightarrows F, x\in \mathbb{R}^1
\]
首先，根据分布函数的性质，对于任意的 \(\varepsilon>0\) ，存在足够大的 \(M(\varepsilon)>0\) 使得
\[
1-F(x) < \frac{\varepsilon}{2} , \forall x >M ; F(x) < \frac{\varepsilon}{2} , \forall x < -M.
\]
而对于 \([-M,M]\) 上的 \(F(x)\) ，由于其连续，可知其一致连续，那么任意的 \(\varepsilon>0\) ，存在 \(k(\varepsilon)>0\) ，对于任意的 \(x,y\in [-M,M]\) ，若 \(|x-y|<k\) ，则有
\[
|F(x)-F(y)| < \frac{\varepsilon}{2} \tag{20.1}
\]
因此，可以在 \([-M,M]\) 上取 \(N=\Bigl[\dfrac{2M}{k}+1\Bigr]\) 等分的网 \(X = \left\lbrace x_i \right\rbrace_{1 \leqslant i \leqslant N}\) ，使得对于其中的任何一个 \(x\) ，若 \(x_i \leqslant x < x_{i+1}\) ，且 \(n\) 足够大时，利用单增性则有
\[
F(x_i) - \frac{\varepsilon}{2} < F_n(x_i) \leqslant F_n(x) \leqslant F(x_{i+1}) < F(x_{i+1}) + \frac{\varepsilon}{2}
\]
那么利用单增性和 (20.1) 有
\[
\begin{aligned}
F_n(x) -F(x) & < F(x_{i+1}) -F(x) + \frac{\varepsilon}{2} \\
& \leqslant F(x_{i+1})-F(x_i) + \frac{\varepsilon}{2} \\
& < \varepsilon
\end{aligned}
\]
以及
\[
\begin{aligned}
F(x) - F_n(x) & < F(x) - F(x_i)+ \frac{\varepsilon}{2} \\
& \leqslant F(x_{i+1}) -F(x_i) + \frac{\varepsilon}{2} \\
& < \varepsilon
\end{aligned}
\]
而上式与 \(x\) 的选取无关，这说明当 \(n\) 足够大时，对于 \(x\in \mathbb{R}^1\) 一致有
\[
|F_n(x)-F(x)| < \varepsilon
\]
故结论成立. \(\square\)
习题五 T25
（斯卢茨基）随机变量序列 \(\left\lbrace \xi_n \right\rbrace\) 具有分布函数列 \(\left\lbrace F_n(x) \right\rbrace\) ，且 \(F_n(x)\to F(x)\) ，又 \(\left\lbrace \eta_n \right\rbrace\) 依概率收敛于常数 \(C>0\) ，试证：
- \(\zeta_n = \xi_n+\eta_n\) 的分布函数收敛于 \(F(x-C)\) ；
- \(\zeta_n = \dfrac{\xi_n}{\eta_n}\) 的分布函数收敛于 \(F(Cx)\).
(1) 根据 \(F_n(x)\to F(x)\) 可知对于任意的 \(\varepsilon>0\) ，存在 \(N>0\) 使得对于任意 \(n>N\) 有
\[
|F_n(x-C)-F(x-C)| < \frac{\varepsilon}{2} \tag{25.1}
\]
考虑
\[
|P(\xi_n + \eta_n < x) - P(\xi_n < x-C)|
\]
由于 \(\eta_n\) 依概率收敛到常数 \(C>0\) ，有对任意的 \(\varepsilon>0\) 以及常数 \(\delta>0\)，存在 \(N_2>0\) ，对于任意的 \(n>N_2\) 有
\[
P(|\eta_n -C| \geqslant \delta) < \frac{\varepsilon}{2}
\]
由于
\[
\begin{aligned}
\left\lbrace \xi_n+ \eta_n <x \right\rbrace - \left\lbrace \xi_n < x-C \right\rbrace \subset \left\lbrace |\eta_n- C| \geqslant \delta \right\rbrace
\end{aligned}
\]
从而
\[
|P(\xi_n + \eta_n < x) - P(\xi_n < x-C)| < \frac{\varepsilon}{2}\tag{25.2}
\]
利用 (25.1) 和 (25.2) ，根据三角不等式：
\[
|P(\zeta_n <x) - F(x-C)| < \frac{\varepsilon}{2}+ \frac{\varepsilon}{2} = \varepsilon
\]
从而结论成立.
(2) 与 (1) 类似，考虑如下两个不等式：
\[
|F_n(Cx)-F(Cx)| < \frac{\varepsilon}{2}
\]
以及
\[
\left|P\left(\frac{\xi_n}{\eta_n}< x\right) - P(\xi_n < Cx)\right| < \frac{\varepsilon}{2}
\]
第一个不等式根据 \(F_n(Cx)\to F(Cx)\) 可得，第二个不等式根据
\[
\left\lbrace \frac{\xi_n}{\eta_n} <x \right\rbrace - \left\lbrace \xi_n < Cx \right\rbrace \subset \left\lbrace |\eta_n- C| \geqslant \delta \right\rbrace
\]
可得，从而利用三角不等式有
\[
|P(\zeta_n < x) - F(Cx)| < \varepsilon
\]
即结论成立. \(\square\)