概率论 题目分类汇编

说明：以下题目主要来自许忠好《初等概率论》习题/课后作业题/期中考试题等，仅供参考。
其中部分题目难度较大，作为拓展 or 附加题。（源自某23级学长）

1. 概率空间典型题目： 由于shokax的特性，必须这样设置

2. 事件$A$与$B$相互独立的充要条件为$P(A\mid B)=P(A)$

   必要性不成立：若事件$A$与$B$相互独立，则$P(B)$可能为$0$，此时$P(A\mid B)$无意义。

3. 若随机事件$A,B,C$两两独立，则$A\cup B$与$C$相互独立。

   反例：设$\Omega=\{1,2,3,4\}$，令$A=\{1,2\},B=\{1,3\},C=\{1,4\}$，则

   $$P(A)=P(B)=P(C)=\frac{1}{2},P(AB)=P(AC)=P(BC)=\frac{1}{4}$$

   故$A,B,C$两两独立。而

   $$P(A\cup B)=\frac{3}{4},P(C)=\frac{1}{2}, P((A\cup B)C)=\frac{1}{4}\neq\frac{3}{8}=\frac{3}{4}\times\frac{1}{2}=P(A\cup B)P(C)$$

   故$A\cup B$与$C$不相互独立。

4. 扑克牌发放问题：
   一副$52$张牌，其中满足特定条件（花色/点数）的牌有$n$张。将这副牌分给$4$个人（每人$13$张），则四个人拿到的特定条件牌数分别为$a,b,c,d$（$a+b+c+d=n$）的概率为$\frac{\binom{13}{a}\binom{13}{b}\binom{13}{c}\binom{13}{d}}{\binom{52}{n}}$。

   解：可将发牌情况理解为一串$52$个元素的序列，每个元素有唯一的花色与点数。满足特定条件（花色/点数）的$n$张牌先确定其序列位置（共$\binom{52}{n}$种组合），然后满足题目牌数分配的情况中，每个人的$13$张牌里特定牌数可任意选择顺序（得到分子）。

5. 已知有三张牌，一张两面均为红色，一张一面红色一面黄色，一张两面均为黄色。现在任意抽取一张牌，并任意选择一面。已知此面为红色，求此牌另一面的颜色也为红色的概率$\frac{2}{3}$。

   设选择这三张牌的事件分别为$B_1,B_2,B_3$（和题目顺序一一对应），并记事件$A$为选择的面为红色。则由贝叶斯公式，

   $$\begin{aligned} P(B_1\mid A)&=\frac{P(A\mid B_1)P(B_1)}{P(A\mid B_1)P(B_1)+P(A\mid B_2)P(B_2)+P(A\mid B_3)P(B_3)}\\ &=\frac{1\times\frac{1}{3}}{1\times\frac{1}{3}+\frac{1}{2}\times\frac{1}{3}+0\times\frac{1}{3}}\\ &=\frac{2}{3} \end{aligned}$$

6. 已知$P(A\mid B)+P(\overline{A}\mid\overline{B})=1$，证明：$A$与$B$相互独立。

   证明：设$P(A)=a,P(B)=b,P(AB)=c$，则由条件得：

   $$\frac{c}{b}+\frac{1-a-b+c}{1-b}=1$$

   化简得$ab=c$，即$P(A)P(B)=P(AB)$，故$A$与$B$相互独立。

7. 已知有随机事件$A$,$B$，证明：$|P(AB)-P(A)P(B)|\leq\frac{1}{4}$.

   证明：因为

   $$\begin{aligned} &P(AB)-P(A)P(B)\\ =&P(AB)-(P(A\backslash B)+P(AB))(P(B\backslash A)+P(AB))\\ =&P(AB)(1-P(A\backslash B)-P(B\backslash A)-P(AB))-P(A\backslash B)P(B\backslash A)\\ =&P(AB)P(\overline{A}\cdot\overline{B})-P(A\backslash B)P(B\backslash A) \end{aligned}$$

   又因为$0\leq P(AB)+P(\overline{A}\cdot\overline{B})\leq 1,0\leq P(A\backslash B)+P(B\backslash A)\leq 1$，故由基本不等式，

   $$P(AB)P(\overline{A}\cdot\overline{B})\in[0,\frac{1}{4}],P(A\backslash B)+P(B\backslash A)\in[0,\frac{1}{4}]$$

   所以

   $$|P(AB)-P(A)P(B)|=|P(AB)P(\overline{A}\cdot\overline{B})-P(A\backslash B)P(B\backslash A)|\leq\frac{1}{4}$$

   （取等号条件：$A=B,P(A)=P(B)=\frac{1}{2}$）

8. 请举例说明：存在从可测空间$(\Omega_1,\mathcal{F}_1)$到$(\Omega_2,\mathcal{F}_2)$上的可测映射$f$及$A\in\mathcal{F}_1$，使得$f(A)\notin\mathcal{F}_2$,这里$f(A)\triangleq\{y\in \Omega_2:\text{存在}x\in A\text{使得}y=f(x)\}$.

   例：$\Omega_1=\{a,b,c\},\mathcal{F}_1=\{\{a,b\},\{c\},\emptyset,\Omega_1\}$；$\Omega_2=\{1,2\},\mathcal{F}_2=\{\emptyset,\Omega_2\}$
   设$f$满足：$f(a)=f(b)=1,f(c)=2$，则$\forall B\in\mathcal{F}_2$，$f^{-1}(B)\in\mathcal{F}_1$，故$f$为可测映射；
   而令$A=\{a\}\in\mathcal{F}_1$，则$f(A)=\{1\}\notin\mathcal{F}_2$，满足条件。

9. 随机变量典型题目：

10. 若$X^2$是随机变量，则$X$是随机变量。

    反例：设$\Omega=\{1,2,3\},\mathcal{F}=\{\emptyset,\{1,3\},\{2\},\Omega\}$，$X(1)=X(2)=1,X(3)=-1$，则

    $$\{\omega:X(\omega)=1\}=\{1,2\}\notin\mathcal{F}$$

    故$X$不是随机变量。而$X^2(1)=X^2(2)=X^2(3)=1$，故

    $$(X^2)^{-1}(B)=\left\{\begin{aligned} \Omega, 1\in B\\ \emptyset,1\notin B \end{aligned} \right. \in\mathcal{F}$$

    故$X^2$为随机变量。
    （特别地，若$X$为非负函数，则上述命题为真，因为$\forall a\geq 0,\{X\leq\sqrt{a}\}=\{X^2\leq a\}$，故可测集相同）

11. 设随机变量$X$为一连续分布，随机变量$Y$为一离散分布，且$X$与$Y$相互独立，则$Z=X+Y$的分布函数没有间断点。

    $$\begin{aligned} F_Z(z)&=P(X+Y\leq z)\\ &=\sum_{k} P(X\leq z-y_i,Y=y_i)\\ &=\sum_{k} F_X( z-y_i)\cdot P(Y=y_i) \end{aligned}$$

    即$Z$的分布函数为$X$的分布函数的线性和，故$Z$处处连续，没有间断点。

12. 多项分布的边际分布为二项分布。

    具体表述为：设随机向量$(X_1,\cdots,X_n)$满足多项分布（联合分布列为$P(X_1=n_1,\cdots,X_r=n_r)=\frac{n!p_1^{n_1}\cdots p_r^{n_r}}{n_1!\cdots n_r!},\sum_{i=1}^rn_i=n$），则其任意一个分量$X_i\sim b(n,p_i)$
    简单证明：定义指示变量

    $$I_j=\left\{ \begin{aligned} &1,\text{第}j\text{次实验结果为第}i\text{类}\\ &0,\mathrm{otherwise}. \end{aligned} \right.$$

    那么$X_i=\sum_{j=1}^nI_j$，又因为$I_j\sim b(1,p_i)$，由二项分布的可加性，$X_i\sim b(n,p_i)$
    （当然也可以通过边际分布列的定义推导计算，在此不赘述）

13. 已知$X$的分布函数为$F(x)$，求$Y=aX+b$的分布函数。

    分情况讨论：
    当$a=0$时，$Y\equiv b$，

    $$F_Y(y)=\left\{ \begin{aligned} 0,\hspace{1em}y< b\\ 1,\hspace{1em}y\geq b \end{aligned} \right.$$

    当$a>0$时，

    $$F_Y(y)=P(X\leq\frac{y-b}{a})=F(\frac{y-b}{a})$$

    当$a<0$时，

    $$F_Y(y)=P(X\geq\frac{y-b}{a})=\left\{ \begin{aligned} &1-F(\frac{y-b}{a})+P(\frac{y-b}{a}),&X\text{为离散变量且在}\frac{y-b}{a}\text{有取值}\\ &1-F(\frac{y-b}{a}),&\mathrm{otherwise}. \end{aligned} \right.$$

14. 设随机变量$X\sim U(0,1)$，求它的$\mu_k,\nu_k$.

    $$\begin{aligned} &\mu_k=\int_0^1x^kdx=\frac{1}{k+1},\\ &\nu_k=\int_0^1(x-\frac{1}{2})^kdx=\left\{ \begin{aligned} &\frac{1}{2^k(k+1)},&k=2n\\ &0,&k=2n+1 \end{aligned} \right. (n\in\mathbb{N}) \end{aligned}$$

15. 已知随机变量$X\sim\operatorname*{Exp}(\lambda)$，求$Y=[X]$的数学期望（$[X]$为$X$的下取整）。

    $$\begin{aligned} P(Y=k)&=P(k\leq x< k+1)\\ &=F_X(k+1)-F_X(k)\\ &=e^{-\lambda k}-e^{-\lambda(k+1)} \end{aligned}$$

    于是

    $$\begin{aligned} EY&=\sum_{k=0}^\infty kP(Y=k)\\ &=\sum_{k=1}^\infty ke^{-\lambda k}(1-e^{-\lambda})\\ &=(1-e^{-\lambda})\cdot\frac{e^{-\lambda}}{(1-e^{-\lambda})^2}\\ &=\frac{1}{e^\lambda-1} \end{aligned}$$

16. 已知随机向量$X\sim P(\lambda)$，证明：$EX^{k+1}=\lambda E(X+1)^k$.

    证明：

    $$\begin{aligned} \lambda E(X+1)^k&=\lambda\sum_{t=0}^\infty(t+1)^k\frac{\lambda^t}{t!}e^{-\lambda}\\ &=\lambda e^{-\lambda}\sum_{t=1}^\infty t^k\frac{\lambda^{t-1}}{(t-1)!}\\ &=\sum_{t=1}^\infty t^{k+1}\frac{\lambda^{t}}{t!}e^{-\lambda}\\ &=EX^{k+1} \end{aligned}$$

17. 设$X\sim N(0,1),a>0$，记

    $$Y=\left\{ \begin{aligned} &X,&|X|<a,\\ &-X,&|X|\geq a \end{aligned} \right.$$

    求$Y$的分布函数。

    设分布函数为$F_Y(y)$，则：

    $$\begin{aligned} F_Y(y)&=P(Y\leq y)\\ &=P(X\leq y,|X|< a)+P(X\geq -y,|X|\geq a)\\ &=\Phi(y)\cdot 1_{\{|X|< a\}}+(1-\Phi(-y))\cdot 1_{\{|X|\geq a\}}\\ &=\Phi(y) \end{aligned}$$

18. 设随机变量$X\sim N(\mu,\sigma^2)$，则数学期望$E(\max(X,0))$=$\mu\Phi(\frac{\mu}{\sigma})+\sigma\varphi(\frac{\mu}{\sigma})$ (请用符号$\mu,\sigma\,\varphi,\Phi$来表示，其中$\varphi,\Phi$分别是$N(0,1)$的概率密度函数和分布函数)。

    $$\begin{aligned} E(\max(X,0))\\ &=\int_{-\infty}^\infty\max(x,0)\cdot\frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{(x-\mu)^2}{2\sigma^2}}dx\\ &=\int_0^\infty\frac{x}{\sqrt{2\pi}\sigma}e^{-\frac{(x-\mu)^2}{2\sigma^2}}dx\\ &\xlongequal{z=\frac{x-\mu}{\sigma}}\int_{-\frac{\mu}{\sigma}}^\infty\frac{\mu+\sigma z}{\sqrt{2\pi}}e^{-\frac{z^2}{2}}dz\\ &=\mu\int_{-\frac{\mu}{\sigma}}^\infty\frac{1}{\sqrt{2\pi}}e^{-\frac{z^2}{2}}dz+\sigma\int_{-\frac{\mu}{\sigma}}^\infty\frac{z}{\sqrt{2\pi}}e^{-\frac{z^2}{2}}dz\\ &=\mu\Phi(\frac{\mu}{\sigma})+\sigma\varphi(\frac{\mu}{\sigma}) \end{aligned}$$

    这里用到了一个性质：

    $$\int_a^\infty x\varphi(x)dx=\varphi(a)=\varphi(-a)$$

    简单证明：

    $$\begin{aligned} \varphi'(x)=\frac{d}{dx}(\frac{1}{\sqrt{2\pi}}e^{-\frac{x^2}{2}})=-\frac{x}{\sqrt{2\pi}}e^{-\frac{x^2}{2}}=-x\varphi(x) \end{aligned}$$

    两边同时积分即可。（类似有$\int_{-\infty}^a x\varphi(x)dx=-\varphi(a)$）
    拓展：由此可得

    $$\begin{aligned} E(|X|)&=E(X\cdot 1_{\{X\geq 0\}})-E(X\cdot 1_{\{X<0\}})\\ &=E(\max(X,0))+E(\max(-X,0))\\ &=\mu\Phi(\frac{\mu}{\sigma})+\sigma\varphi(\frac{\mu}{\sigma})-\mu\Phi(\frac{-\mu}{\sigma})+\sigma\varphi(\frac{-\mu}{\sigma})\\ &=\mu(2\Phi(\frac{\mu}{\sigma})-1)+2\sigma\varphi(\frac{\mu}{\sigma}) \end{aligned}$$

    特别地，当$\mu=0$时，$E(|X|)=2\sigma\varphi(0)=\sigma\sqrt{\frac{2}{\pi}}$.

19. 设$\varphi(x)$是标准正态分布的概率密度函数，$u_\alpha$是$\alpha$-分位数，证明：

    $$\int_{\alpha}^1u_pdp=\varphi(u_\alpha).$$

    证明：由分位数的定义，$\Phi(u_p)=p$，即$u_p=\Phi^{-1}(p)$，又令$u_p=x$，则

    $$\Phi(x)=p\Longrightarrow dp=\varphi(x)dx$$

    又因为$p=1$时，$x=\infty$；$p=\alpha$时，$x=u_\alpha$，故

    $$\int_{\alpha}^1u_pdp=\int_{u_\alpha}^\infty x\varphi(x)dx=\varphi(u_\alpha)$$

    （其中第二个等号来自上一题的结论）

20. 设随机变量$X$服从均匀分布$U(0,2)$，$Y=\max(X,1)$，求$Y$的分布函数$F$并将其写为$\alpha F_1+(1-\alpha)F_2$的形式，其中$\alpha\in [0,1]$为常数，$F_1$和$F_2$分别为离散型随机变量和连续型随机变量的分布函数。

    因为$X$的分布函数为

    $$F_X(x)=\left\{ \begin{aligned} & 0,&x\leq 0\\ & \frac{x}{2},&0 < x < 2\\ &1,&x\geq 2 \end{aligned} \right.$$

    所以$Y$的分布函数为

    $$F_Y(y)=\left\{ \begin{aligned} & F_X(y),&y\geq 1\\ & 0,&y<1 \end{aligned} \right. =\left\{ \begin{aligned} &0,&y< 1\\ &\frac{y}{2},&1\leq y< 2\\ &1,&y\geq 2 \end{aligned} \right.$$

    由于分布函数间断点只有$y=1$，且$P(Y=1)=P(Y\leq 1)-P(Y<1)=\frac{1}{2}$，所以可以取$F_1(y)=1_{\{y\geq 1\}}y$，$\alpha=\frac{1}{2}$，则

    $$F_2(y)=2F_Y(y)-F_1(y)=\left\{ \begin{aligned} &0,&y< 1\\ &y-1,&1\leq y< 2\\ &1,&y\geq 2 \end{aligned} \right.$$

21. 随机向量典型题目：

22. 设随机变量$X$与$Y$均服从正态分布，且不相关，那么：

    • $X+Y$服从一维正态分布
    • $(X,Y)$服从二维正态分布
    • $X,Y$相互独立
    • 以上均不正确

    反例（三个选项均不成立）：
    设$X\sim N(0,1)$，定义与$X$独立的随机变量$Z$，满足$P(Z=1)=P(Z=-1)=0.5$，再设$Y=XZ$；
    则$F_Y(y)=P(Y\leq y)=P(X\leq y,Z=1)+P(X\geq -y,Z=-1)=0.5\Phi(y)+0.5(1-\Phi(-y))=\Phi(y)$，故$Y\sim N(0,1)$；又因为$E(XY)=E(ZX^2)=E(Z)E(X^2)=0$，故$\mathrm{Cov}(X,Y)=0$，$X,Y$不相关；
    $X$与$Y$显然不独立（$P(1\leq X\leq 2,3\leq Y\leq 4)=0\neq P(1\leq X\leq 2)\cdot P(3\leq Y\leq 4)$）；
    $(X,Y)$的概率密度函数非$0$点只在$y=x$与$y=-x$两条直线上，显然不服从二维正态分布；
    设$T=X+Y$，则$F_T(t)=P(X+Y\leq t)=0.5P(X\leq\frac{t}{2})+0.5P(0\leq t)=0.5\Phi(\frac{t}{2})+0.5\cdot 1_{\{t\geq 0\}}$在$t=0$处不连续，故不服从正态分布；

23. 设$X,Y$均服从$N(0,1)$，则$X^2+Y^2$服从卡方分布。

    反例：$Y=X,X^2+Y^2=2X^2\sim 2\chi^2(1)$，不是卡方分布；
    只有$X$与$Y$相互独立，才有$X^2+Y^2\sim\chi^2(2)$

24. 如果随机向量$(X,Y)$的边际分布函数连续，则其联合分布函数连续。

    证明：由于边际分布函数连续，所以任意$(x_0,y_0)$，$P(X=x_0,Y\leq y)=P(X\leq x,Y=y_0)=0$，于是$P(X=x_0,Y=y_0)=0$，$F_{X,Y}(x,y)=P(X\leq x,Y\leq y)$在$(x_0,y_0)$处连续，故联合分布函数处处连续。

25. 设随机变量$X,Y,Z$两两独立，则$X+Y$与$Z$相互独立。

    证明：设$X\sim b(1,\frac{1}{2})$，$Y\sim b(1,\frac{1}{2})$，且$X$与$Y$相互独立，另设$Z=X\oplus Y$（即$X=Y$时取$0$，反之取$1$）
    则$P(Z=0)=P(Z=1)=\frac{1}{2}$，对于$X$与$Z$：$P(X=0,Z=0)=P(X=0,Y=0)=P(X=0)P(Y=0)=\frac{1}{4}=P(X=0)P(Z=0)$（其他取值类似），故$X$与$Z$独立（同理可得$Y$与$Z$独立），即$X,Y,Z$两两独立；
    而$P(X+Y=1,Z=0)=0\neq P(X+Y=1)P(Z=0)$，故$X+Y$与$Z$不相互独立。

26. 已知随机向量$X,Y,Z$两两之间的相关系数均为$\rho$，证明：$\rho\geq-\frac{1}{2}$。

    证明：由题可得，$X,Y,Z$的相关系数矩阵为：

    $$\begin{pmatrix} 1 & \rho & \rho\\ \rho & 1 & \rho\\ \rho & \rho & 1 \end{pmatrix}$$

    则由于相关系数矩阵具有非负定性（可由协方差矩阵的非负定性推得），故

    $$\begin{vmatrix} 1 & \rho & \rho\\ \rho & 1 & \rho\\ \rho & \rho & 1 \end{vmatrix} =2\rho^3-3\rho^2+1=(x-1)^2(2x+1)>0$$

    所以$\rho\geq-\frac{1}{2}$。

27. 一根绳子先随机地剪下一段, 从剩下的绳子再随机剪一段, 求这三段构成三角形的概率。 $\ln2-\frac{1}{2}$

    设绳子长度为$1$，第一次剪下长度为$X\sim U(0,1)$，第二次剪下长度（在$X=x$条件下）为$Y\sim U(0,1-x)$，则三段绳子长度为$X,Y,1-X-Y$.
    由题目条件可得$X<0.5,Y<0.5,X+Y>0.5$，故可得$0<X<0.5,0.5-X<Y<0.5$
    又因为$(X,Y)$联合概率密度函数为

    $$p_{X,Y}(x,y)=p_{Y\mid X}(y\mid x)p_X(x)=\frac{1}{1-x}\hspace{1em 0< x< 1,0< y< 1-x}$$

    故事件概率为

    $$\int_0^{0.5}dx\int_{0.5-x}^{0.5}\frac{1}{1-x}dy=\int_0^{0.5}\frac{x}{1-x}dx=\ln2-\frac{1}{2}$$

28. 设随机变量$X_1$服从均匀分布$U(0,1)$；当$X_1=x_1(0<x_1<1)$时，$X_2$服从均匀分布$U(0,x_1)$；当$X_2=x_2(0< x_2< 1)$时,$X_3$服从均匀分布$U(0,x_2)$.求数学期望$EX_3=$$\frac{1}{8}$.

    由重期望公式得$EX_3=E(E(X_3\mid X_2))$，又因为$X_3\mid X_2=x_2\sim U(0,x_2)$，所以$E(X_3\mid X_2)=\frac{0+X_2}{2}=\frac{1}{2}X_2$，故$EX_3=\frac{1}{2}X_2$；
    同理可得$EX_2=\frac{1}{2}EX_1$，故$EX_3=\frac{1}{4}EX_1=\frac{1}{4}\times\frac{1}{2}=\frac{1}{8}$.

29. 已知连续型随机向量$(X,Y)$的联合概率密度函数$p(x,y)$，计算条件数学期望$E(f(X,Y)\mid g(X,Y)<0)$。

    求解方法1：利用随机变量关于随机事件的条件数学期望公式（默认$P(g(X,Y)<0)>0$）：

    $$\begin{aligned} E(f(X,Y)\mid g(X,Y)<0)&=\frac{E(f(X,Y)\cdot 1_{g(X,Y)<0})}{P(g(X,Y)<0)}\\ &=\frac{\iint_{g(x,y)<0}f(x,y)p(x,y)dxdy}{\iint_{g(x,y)<0}p(x,y)dxdy} \end{aligned}$$

    求解方法2：先求解条件分布，再求解条件数学期望。不推荐这么做

    $$\begin{aligned} P(f(X,Y)\leq t\mid g(X,Y)<0)&=\frac{P(f(X,Y)\leq t,g(X,Y)<0)}{P(g(X,Y)<0)}\\ &=\frac{\iint_Dp(x,y)}{\iint_{D'}p(x,y)} \end{aligned}$$

    其中$D,D'$为满足相应条件的平面点集。因为$P(f(X,Y)\leq t\mid g(X,Y)<0)$为关于$t$的函数（设为$h(t)$），则

    $$E(f(X,Y)\mid g(X,Y)<0)=\int_{-\infty}^\infty th'(t)dt$$

30. 已知随机变量$X$与$Y$相互独立，且$X$与$Y$的概率密度函数分别为$p_X(x)$与$p_Y(y)$，求$E(X\mid f(X,Y)=t)$与$E(X\mid f(X,Y))$。（其中$f(X,Y)$在$X$固定时关于$Y$严格单调）

    解：$(X,Y)$的联合概率密度函数为$p_{X,Y}(x,y)=p_X(x)p_Y(y)$，设$f(X,Y)=T$，另有$Y=g(X,T)$则

    $$\begin{aligned} p_{X\mid T}(x\mid t)=\frac{p_{X,T}(x,t)}{p_T(t)}&=\frac{p_{X,Y}(x,g(x,t))|g_t|}{\int_{-\infty}^\infty p_{X,Y}(x,g(x,t))|g_t|dx}\\ &=\frac{p_{X}(x)p_Y(g(x,t))|g_t|}{\int_{-\infty}^\infty p_{X}(u)p_Y(g(u,t))|g_t|du} \end{aligned}$$

    因而有

    $$E(X\mid f(X,Y)=t)=\int_{-\infty}^\infty xp_{X\mid T}(x\mid t)dx$$

    再求$E(X\mid f(X,Y))$，只需把$t$换为$f(X,Y)$即可。

31. 已知随机变量$(X,Y)$满足二维正态分布$N(\mu_1,\sigma_1^2;\mu_2,\sigma_2^2;\rho)$，求$E(X\mid Y)$的表达式，并判断其是否满足正态分布。

    表达式为：

    $$E(X\mid Y)=\mu_1+\rho\frac{\sigma_1}{\sigma_2}(Y-\mu_2)$$

    显然满足正态分布。
    推导过程：由于二维正态分布的概率密度函数为

    $$p(x,y)=\frac{1}{2\pi\sigma_1\sigma_2\sqrt{1-\rho^2}}\mathrm{exp}\left\{-\frac{1}{2(1-\rho^2)}\left[(\frac{x-\mu_1}{\sigma_1})^2+(\frac{y-\mu_2}{\sigma_2})^2-\frac{2\rho(x-\mu_1)(y-\mu_2)}{\sigma_1\sigma_2}\right]\right\}$$

    而边缘概率密度函数

    $$p_Y(y)=\frac{1}{\sqrt{2\pi}\sigma_2}\exp\left\{-\frac{(y-\mu_2)^2}{2\sigma_2^2}\right\}$$

    故条件概率密度函数

    $$\begin{aligned} p_{X\mid Y}(x\mid y)&=\frac{p(x,y)}{p_Y(y)}\\ &=\frac{1}{\sqrt{2\pi(1-\rho^2)}\sigma_1}\exp\left\{-\frac{1}{2(1-\rho^2)}[(\frac{x-\mu_1}{\sigma_1})^2-\frac{2\rho(x-\mu_1)(y-\mu_2)}{\sigma_1\sigma_2}]-\frac{\rho^2(y-\mu_2)^2}{2(1-\rho^2)\sigma_2^2}\right\}\\ &=\frac{1}{\sqrt{2\pi(1-\rho^2)}\sigma_1}\exp\left\{-\frac{1}{2(1-\rho^2)\sigma_1^2}\left[x-\mu_1-\rho\frac{\sigma_1}{\sigma_2}(y-\mu_2)\right]^2\right\} \end{aligned}$$

    所以

    $$X\mid Y=y\sim N(\mu_1+\rho\frac{\sigma_1}{\sigma_2}(y-\mu_2),(1-\rho^2)\sigma_1^2),\hspace{1em}E(X\mid Y=y)=\mu_1+\rho\frac{\sigma_1}{\sigma_2}(y-\mu_2).$$

32. 设$X\sim N(\mu,\sigma^2)$，$\Phi(x)$为标准正态分布的分布函数，求$E(\Phi(X))$=$\Phi(\frac{\mu}{\sqrt{\sigma^2+1}})$。据学长所言，这道题深受某许姓教授喜爱

    法1：设$X$的概率密度函数为$p(x)$，则

    $$\begin{aligned} E(\Phi(X))&=\int_{-\infty}^\infty\Phi(x)p(x)dx\\ &=\int_{-\infty}^\infty\left(\int_{-\infty}^y\varphi(y)dy\right)p(x)dx\\ &=\iint_{\{(x,y):x\geq y\}}\varphi(y)\cdot p(x)dxdy \end{aligned}$$

    设$Y\sim N(0,1)$，且与$X$相互独立，则$(X,Y)$联合概率密度函数为$\varphi(y)p(x)$，且$X-Y\sim N(\mu,1+\sigma^2)$，故

    $$\begin{aligned} E(\Phi(X))&=\iint_{\{(x,y):x\geq y\}}\varphi(y)\cdot p(x)dxdy\\ &=P(X\geq Y)=P(X-Y\geq 0)\\ &=P(\frac{(X-Y)-\mu}{\sqrt{1+\sigma^2}}\geq\frac{-\mu}{\sqrt{1+\sigma^2}})\\ &=1-\Phi(\frac{-\mu}{\sqrt{1+\sigma^2}})=\Phi(\frac{\mu}{\sqrt{\sigma^2+1}}) \end{aligned}$$

    法2：
    利用条件期望的性质以及重期望公式，设$Z\sim N(0,1)$，则

    $$E(\Phi(X))=E(P(Z\leq X|X))=P(Z\leq X)$$

    后面的推导同法1。

33. 极限理论典型题目：

34. 计算$X\sim Ga(\alpha,\lambda)$的特征函数$f(t)=$$(\frac{\lambda}{\lambda-it})^\alpha$

    计算过程：

    $$\begin{aligned} f(t)=Ee^{itX}=&\int_0^\infty e^{itx}\frac{\lambda^\alpha}{\Gamma(\alpha)}x^{\alpha-1}e^{-\lambda x}dx\\ &=\frac{\lambda^\alpha}{\Gamma(\alpha)}\int_0^\infty x^{\alpha-1}e^{-(\lambda-it)x}dx\\ &\xlongequal {\text{令}z=(\lambda-it)x}\frac{\lambda^\alpha}{\Gamma(\alpha)(\lambda-it)^\alpha}\int_0^\infty z^{\alpha-1}e^{-z}dz\\ &=\frac{\lambda^\alpha}{\Gamma(\alpha)(\lambda-it)^\alpha}\cdot \Gamma(\alpha)=(\frac{\lambda}{\lambda-it})^\alpha \end{aligned}$$

35. 证明：$X$的特征函数为实值函数$\Longleftrightarrow X$与$-X$同分布。

    证明：当$X$的特征函数$f(t)$为实值函数，则$-X$的特征函数$f(-t)=\overline{f(t)}=f(t)$，故$X$与$-X$同分布；
    当$X$与$-X$同分布，则设对应的特征函数分别为$f(t),g(t)$（$f(t)=g(t)$），则$f(t)=g(t)=f(-t)=\overline{f(t)}$，故$f(t)$为实值函数。

36. 证明：设$X_n\stackrel{P}{\longrightarrow}X$，$X_n\stackrel{P}{\longrightarrow}Y$，证明：$P(X=Y)=1$.

    $P(X=Y)=1$等价于$P(|X-Y|>0)=0$。
    首先证明：对任意$\epsilon>0$，$P(|X-Y|\geq\epsilon)=0$.
    由条件得，

    $$\begin{aligned} \lim_{n\to\infty}P(|X_n-X|\geq\frac{\epsilon}{2})=0\\ \lim_{n\to\infty}P(|X_n-Y|\geq\frac{\epsilon}{2})=0 \end{aligned}$$

    又因为$\{|X-Y|\geq\epsilon\}\subseteq\{|X_n-X|\geq\frac{\epsilon}{2}\}\cup\{|X_n-Y|\geq\frac{\epsilon}{2}\}$，所以

    $$\begin{aligned} P(|X-Y|\geq\epsilon)&=P(|X-X_n+X_n-Y|\geq\epsilon)\\ &\leq P(|X_n-X|\geq\frac{\epsilon}{2})+P(|X_n-Y|\geq\frac{\epsilon}{2})\to 0\hspace{0.5em}(n\to\infty) \end{aligned}$$

    所以$P(|X-Y|\geq\epsilon)=0$.于是

    $$\begin{aligned} P(|X-Y|>0)&=P\left(\bigcup_{k=1}^{\infty}\{|X-Y|\geq\frac{1}{k}\}\right)\\ &\leq\sum_{k=1}^\infty P(|X-Y|\geq\frac{1}{k})=0 \end{aligned}$$

    命题得证。

37. 设$a>0,X_1,X_2,\cdots$相互独立且都服从均匀分布$U(0,a)$，记$Y_n=\operatorname*{max}_{1\leq k\leq n}$，证明：$Y_n\stackrel{P}{\longrightarrow}a$.

    证明方法1：对任意$\epsilon>0$，

    $$\begin{aligned} P(|Y_n-a|\geq \epsilon)&=P(Y_n-a\geq \epsilon)+P(Y_n-a\leq-\epsilon)\\ &=1-P(Y_n< a+\epsilon)+P(Y_n\leq a-\epsilon)\\ &=1-P(X_1< a+\epsilon,X_2< a+\epsilon,\cdots,X_n< a+\epsilon)+P(X_1\leq a-\epsilon,X_2\leq a-\epsilon,\cdots,X_n\leq a-\epsilon)\\ &\leq 1-\prod_{k=1}^nF_{X_k}(a+\epsilon)+\prod_{k=1}^nF_{X_k}(a-\epsilon) \end{aligned}$$

    又因为$F_{X_k}(a+\epsilon)=1,F_{X_k}(a-\epsilon)=\frac{a-\epsilon}{a}$，故

    $$\begin{aligned} &\lim_{n\to\infty}\left(1-\prod_{k=1}^nF_{X_k}(a+\epsilon)+\prod_{k=1}^nF_{X_k}(a-\epsilon)\right)\\ &=\lim_{n\to\infty}\left(1-1+(\frac{a-\epsilon}{a})^n\right)\\ &=0 \end{aligned}$$

    所以$\lim_{n\to\infty}P(|Y_n-a|\geq \epsilon)=0$，即$Y_n\stackrel{P}{\longrightarrow}a$.

    证明方法2：因为$a$为常数，故$Y_n\stackrel{P}{\longrightarrow}a$等价于$Y_n\stackrel{d}{\longrightarrow}a$。
    因为

    $$F_{Y_n}(x)=[F_X(x)]^n=\left\{ \begin{aligned} &0,&x\leq 0\\ &\left(\frac{x}{a}\right)^n,&0<x<a\\ &1,&x\geq a \end{aligned} \right.$$

    所以

    $$\lim_{n\to\infty}F_{Y_n}(x)=\left\{ \begin{aligned} &0,&x<a\\ &1,&x\geq a \end{aligned} \right.$$

    于是有$\lim_{n\to\infty}Y_n\equiv a$，即$Y_n\stackrel{d}{\longrightarrow}a$，所以$Y_n\stackrel{P}{\longrightarrow}a$.

38. 设随机变量$X,Y\stackrel{i.i.d}{\sim}N(0,1)$，$Z=XY$,求$Z$的特征函数. $\frac{1}{\sqrt{1+t^2}}$

    由重期望公式得$f_z(t)=Ee^{itXY}=E(E(e^{itXY}\mid X))$。而当$X=x$时，因为$Y\sim N(0,1)$，

    $$E(e^{itXY}\mid X=x)=E(e^{itxY})=e^{-\frac{(tx)^2}{2}}$$

    所以$f_z(t)=E(e^{-\frac{t^2X^2}{2}})$
    又因为$X\sim N(0,1)$，所以

    $$E(e^{-\frac{t^2X^2}{2}})=\frac{1}{\sqrt{2\pi}}\int_{-\infty}^\infty e^{-\frac{t^2x^2}{2}}e^{-\frac{x^2}{2}}=\frac{1}{\sqrt{2\pi}}\int_{-\infty}^\infty e^{-\frac{(t^2+1)x^2}{2}}$$

    由高斯积分$\int_{-\infty}^\infty e^{-\frac{ax^2}{2}}=\sqrt{\frac{2\pi}{a}}$（可由gamma函数推得），得

    $$f_z(t)=\frac{1}{\sqrt{2\pi}}\cdot\sqrt{\frac{2\pi}{t^2+1}}=\frac{1}{\sqrt{t^2+1}}$$

39. 设随机变量序列$\{X_n,n\geq 1\}$同分布且方差存在。若$i\neq j$时，$\mathrm{Cov}(X_i,X_j)\leq 0$。证明$\{X_n,n\geq 1\}$服从大数定律。

    首先确定使用哪种大数定律：不能用切比雪夫大数定律（没有独立性条件），不能用辛钦大数定律（没有期望存在条件），故使用马尔科夫大数定律。
    证明：因为

    $$\begin{aligned} \mathrm{Var}(\sum_{i=1}^nX_i)&=\sum_{i=1}^n\mathrm{Var}(X_i)+\sum_{i\neq j}\mathrm{Cov}(X_i,X_j)\\ &\leq \sum_{i=1}^n \mathrm{Var}(X_i) \end{aligned}$$

    又因为$\{X_n,n\geq 1\}$同分布且方差均存在（设为$\sigma^2$），故$\mathrm{Var}(\sum_{i=1}^nX_i)\leq n\sigma^2$，所以

    $$\lim_{n\to\infty}\frac{\mathrm{Var}(\sum_{i=1}^nX_i)}{n^2}\leq \lim_{n\to\infty}\frac{\sigma^2}{n}=0$$

    由马尔科夫大数定律可得$\{X_n,n\geq 1\}$服从大数定律。

40. 某厂生产的螺丝钉不合格率为$0.01$，问一盒中应装多少只才能使得其中含有$100$只合格品的概率不小于$0.95$？103

    设$X$为一盒螺丝钉中合格品的个数（设总共有$n$只螺丝钉），则$X\sim b(n,0.99)$
    由中心极限定理及连续性修正，有

    $$0.95\leq P(X\geq 100)\approx P(X\geq 99.5)\approx 1-\Phi(\frac{99.5-0.99n}{\sqrt{n\times 0.99\times 0.01}})$$

    由正态分布表（或计算器计算）可得，$1-\Phi(t)\geq 0.95\Longrightarrow t\leq -1.645$，所以有

    $$\frac{99.5-0.99n}{\sqrt{n\times 0.99\times 0.01}}\leq -1.645$$

    解得$n\geq 102.17$，故$n$最小值为$103$.