概率论第十一周作业
第四章习题 T48
试求 \([0,1]\) 均匀分布的特征函数.
考虑分布密度函数为
\[
p(x) = \begin{cases}
1, & x\in [0,1] \\
0, & \text{Otherwise}.
\end{cases}
\]
那么，有特征函数：
\[
\begin{aligned}
f(t) & = \int_{-\infty}^{+\infty} \mathrm{e}^{\mathrm{i} t x} p(x) \mathrm{d}x \\
& = \int_0^1 \mathrm{e}^{\mathrm{i} tx} \mathrm{d}x = \dfrac{\sin t}{t}+ \mathrm{i}\dfrac{1-\cos t}{t}
\end{aligned}
\]
\(\square\)
第四章习题 T50
若随机变量 \(\xi\) 服从 Cauchy 分布，参数 \(\mu=0,\lambda=1\) ，而 \(\eta = \xi\) ，试证明关于特征函数成立着：
$$ f_{\xi+\eta}(t) = f_\xi(t) \cdot f_\eta(t) $$
但是 \(\xi\) 和 \(\eta\) 并不独立.
首先先计算 \(f_\xi(t)\) ，由于 \(\xi\) 服从标准 Cauchy 分布且 \(\eta = \xi\) ， 它们的密度函数均为：
\[
q(x) = \frac{1}{\pi} \dfrac{1}{1+x^2}
\]
因此可以求 \(f_\xi(t)\) ：
\[
\begin{aligned}
f_\xi(t) & = \frac{1}{\pi}\int_{-\infty}^{+\infty} \dfrac{\mathrm{e}^{\mathrm{i} tx}}{1+x^2} \mathrm{d}x \\
& = \frac{2}{\pi}\int_{0}^{+\infty} \dfrac{\cos tx}{1+x^2} \mathrm{d}x+ \frac{\mathrm{i}}{\pi}\int_{-\infty}^{+\infty} \dfrac{\sin tx}{1+x^2} \mathrm{d}x
\end{aligned}
\tag{50.1}
\]
第二个积分是奇函数的积分，因此只需关注第一个 Laplace 积分. 首先 \(\dfrac{1}{1+x^2}\) 为优势函数，因此积分一致收敛. 设 \(f_\xi(t) = \dfrac{2}{\pi} I(t)\) .
为了方便求导，我们需要证明下式对于 \(a\in (0,\infty)\) 内闭一致收敛：
\[
I'(t) = -\int_0^{+\infty}\frac{x\sin tx}{1+x^2}\mathrm{d}x.
\]
由于 \(\sin tx\) 积分内闭一致收敛，且另一个因子和参变量无关，单调趋于 \(0\) ，从而由含参变量积分的 Dirichlet 判别法可知内闭一致收敛.
我们发现 \(I'(t)\) 的收敛情况不如 \(I(t)\) ，因此不能再求导，我们分离出收敛较慢的部分 \(\displaystyle \frac{1}{x}\) ，于是 \(t>0\) 时有
\[
\begin{aligned}
I'(t) &= -\int_0^{+\infty}\left(\frac{1}{x}-\frac{1}{x(1+x^2)}\right)\sin tx \mathrm{d}x\\
&= - \frac{\pi}{2}+\int_0^{+\infty}\frac{\sin tx}{x(1+x^2)}\mathrm{d}x
\end{aligned}
\]
我们发现又可以求导了，从而
\[
I''(t) = I(t)
\]
这是一个微分方程，解这个二阶微分方程可以得到
\[
I(t) = C_1 \mathrm{e}^t+C_2 \mathrm{e}^{-t}
\]
由于原式关于 \(t\) 都有界，\(C_1=0\) ，再利用连续性 \(I(0)=C_2=\displaystyle \frac{\pi}{2}\) .
因此 \(I(t) =\displaystyle \frac{\pi}{2}\mathrm{e}^{-t}\) . 于是 \(f_\xi(t) = \mathrm{e}^{-|t|}\) .
而由于 \(\xi+ \eta = 2 \xi\) ，于是
\[
f_{\xi+\eta}(t) = f_{2 \xi}(t) = \mathrm{e}^{-2|t|} = f_\xi(t) f_\eta(t)
\]
因此题中的等式成立. 但是对于独立性，由于 \(\eta=\xi\) ，取值完全相等，因此独立性显然不成立. \(\square\)
第四章习题 T53
求证：对于任何实值特征函数 \(f(t)\) ，以下两个不等式成立：
$$ \begin{aligned}& 1-f(2t) \leqslant 4(1-f(t)) \ & 1+f(2t) \geqslant 2[f(t)]^2\end{aligned} $$
对于第一个不等式，由于特征函数为实值，因此可以略去虚部的积分，直接考虑实部的积分有
\[
\begin{aligned}
f(2t)-4f(t) +3 & = \int_{-\infty}^{+\infty} (\cos 2tx - 4\cos tx +3) \mathrm{d} F(x) \\
& = 2\int_{-\infty}^{+\infty} (1-\cos tx)^2 \mathrm{d}F(x) \geqslant 0
\end{aligned}
\]
第一个不等式成立，对于第二个不等式，有
\[
\begin{aligned}
2[f(t)]^2 & = 2\left(\int_{-\infty}^{+\infty} \cos tx \cdot 1\mathrm{d}F(x)\right)^2 \\
& \leqslant 2\int_{-\infty}^{+\infty} \cos^2 tx \mathrm{d}F(x)\int_{-\infty}^{+\infty} 1 \mathrm{d}F(x) \\
& = 2 f(2t)+1
\end{aligned}
\]
其中的不等号来源于以
\[
\int_{-\infty}^{+\infty} f(x)g(x) \mathrm{d}x
\]
定义内积的内积空间中的 Cauchy-Schwarz 不等式. \(\square\)
习题四 T57
若 \(\xi_1,\cdots,\xi_n\) 相互独立，均服从 \(N(0,1)\) ，而
$$ \eta_1 = \sum\limits_{k=1}^n a_k \xi_k , \eta_2 = \sum\limits_{k=1}^n b_k \xi_k $$
试证明：\(\eta_1\) 与 \(\eta_2\) 独立的充要条件为 \(\sum\limits_{k=1}^n a_k b_k = 0\).
根据教材定理 4.6.6 和定理 4.6.7 ，\((\eta_1,\eta_2)\) 服从二元正态分布，这是由于
\[
\begin{pmatrix}\eta_1 \\ \eta_2\end{pmatrix} =
\begin{pmatrix}a_1 & a_2 & \cdots & a_n \\ b_1 & b_2 & \cdots & b_n\end{pmatrix} \begin{pmatrix}\xi_1 \\ \xi_2 \\ \vdots \\ \xi_n\end{pmatrix}
\]
从而其独立性和不相关性是等价的，那么我们只需证明：\(\eta_1,\eta_2\) 不相关的充要条件是 \(\sum\limits_{k=1}^n a_k b_k = 0\) .
有
\[
\begin{aligned}
E(\eta_1)E(\eta_2) & = \sum\limits_{k=1}^n a_k b_k [E(\xi_k)]^2 + \sum\limits_{i\neq j} a_i b_j E(\xi_i)E(\xi_j)
\end{aligned}
\]
且
\[
E(\eta_1 \eta_2) = \sum\limits_{k=1}^n a_k b_k E(\xi_k^2) + \sum\limits_{i \neq j} a_i b_j E(\xi_i \xi_j)
\]
由于 \(\xi_i,\xi_j\) 在 \(i \neq j\) 时相互独立，于是
\[
E(\eta_1 \eta_2) - E(\eta_1) E(\eta_2) = \sum\limits_{k=1}^n a_kb_k D(\xi_k) = \sum\limits_{k=1}^n a_k b_k
\]
由于 \(E(\eta_1 \eta_2) = E(\eta_1)E(\eta_2)\) 是不相关性的等价条件，从而充要条件成立. \(\square\)
习题四 T59
若 \((\xi,\eta)\) 服从 \(N(\mu_1,\mu_2,\sigma_1^2,\sigma_2^2,\rho)\) ，而
$$ U = a \xi+ b \eta, V = c \xi+ d \eta $$
- 试求 \(U\) 和 \(V\) 的数学期望，方差及相关系数；
- 写出 \((U,V)\) 的分布；
- 讨论：何种情况下，\((U,V)\) 退化为一维变量；何种情况下，\(U,V\) 独立.
(1) 它们都是 \(\xi\) 和 \(\eta\) 的线性组合，因此有
\[
\begin{aligned}
& U \sim (a \mu_1 + b \mu_2, a^2 \sigma_1^2 + b^2 \sigma_2^2 + 2ab \rho \sigma_1 \sigma_2) \\
& V \sim (c \mu_1 + d \mu_2, c^2 \sigma_1^2 + d^2 \sigma_2^2 + 2cd \rho \sigma_1 \sigma_2)
\end{aligned}
\]
因此 \(E(U) = a \mu_1 +b \mu_2\) ，\(D(U) = a^2 \sigma_1^2 + b^2 \sigma_2+2ab \rho \sigma_1 \sigma_2\) ，\(E(V) = c \mu_1 +d \mu_2\) ，\(D(V) = c^2 \sigma_1^2 + d^2 \sigma_2+2cd \rho \sigma_1 \sigma_2\) .
再考虑协方差的计算，首先要计算 \(E(\xi \eta)\) ，考虑
\[
\begin{aligned}
D(U) & = E(U^2) - [E(U)]^2 \\
& = a^2 \sigma_1^2 + b \sigma_2^2 - 2ab \mu_1 \mu_2 + 2ab E(\xi \eta) \\
& = a^2 \sigma_1^2 + b^2 \sigma_2+2ab \rho \sigma_1 \sigma_2
\end{aligned}
\]
从而 \(E(\xi \eta) = \rho \sigma_1 \sigma_2 +\mu_1 \mu_2\) . 因此
\[
\begin{aligned}
\mathrm{cov}(U,V) & = E(UV)-E(U)E(V) \\
& = ac E(\xi^2) + bd E(\eta^2) + (bc+ad)E(\xi \eta)-(a \mu_1 + b \mu_2)(c \mu_1 + d \mu_2) \\
& = ac \sigma_1^2 + bd \sigma_2^2 + \rho(bc+ad)\sigma_1 \sigma_2
\end{aligned}
\]
从而相关系数为
\[
\rho_{UV} = \dfrac{ac \sigma_1^2 + bd \sigma_2^2 + \rho(bc+ad)\sigma_1 \sigma_2}{\sqrt{a^2 \sigma_1^2 + b^2 \sigma_2+2ab \rho \sigma_1 \sigma_2} \sqrt{c^2 \sigma_1^2 + d^2 \sigma_2+2cd \rho \sigma_1 \sigma_2}}
\]
(2) 首先
\[
\begin{pmatrix}U \\ V\end{pmatrix} = \begin{pmatrix}a \xi + b \eta \\ c \xi+ d \eta\end{pmatrix} =
\begin{pmatrix}a & b \\ c & d\end{pmatrix} \binom{\xi}{\eta} = \boldsymbol{C}\binom{\xi}{\eta}
\]
则
\[
\boldsymbol{C \mu} = \boldsymbol{C} \binom{\mu_1}{\mu_2} = \begin{pmatrix}a \mu_1 + b \mu_2 \\ c \mu_1 + d \mu_2\end{pmatrix}
\]
且
\[
\boldsymbol{C} \boldsymbol{\Sigma} \boldsymbol{C}^{\mathrm{T}} = \begin{pmatrix}D(U) & \mathrm{cov}(U,V) \\ \mathrm{cov}(U,V) & D(V)\end{pmatrix}
\]
那么此时 \((U,V)\sim N(\boldsymbol{C \mu},\boldsymbol{C \Sigma \boldsymbol{C}}^{\mathrm{T}})\) .
(3) 考虑 \(|\boldsymbol{C} \boldsymbol{\Sigma} \boldsymbol{C}^{\mathrm{T}}| =0\) 的时候，计算可得
\[
(ad-bc)^2 (1-\rho)^2 \sigma_1^2 \sigma_2^2 = 0
\]
故 \(ad = bc\) 或者 \(\rho = 1\) （都需要 \(a,b,c,d\) 不全为 \(0\)）的时候，\((U,V)\) 退化为一维变量.
对于独立性，由于正态分布独立与不相关等价，因此当
\[
\mathrm{cov}(U,V) = ac \sigma_1^2 + bd \sigma_2^2 + \rho(bc+ad)\sigma_1 \sigma_2 = 0
\]
时，\(U,V\) 独立. \(\square\)