第十四讲 联合分布与边缘分布

概率论与数理统计 讲义 NUDT 2023SP

---

---

14.1 离散型随机向量

---

14.1.1 联合分布律

设 $X,Y$ 均为离散型 rv，则 $(X,Y)$ 可称为一个离散型随机向量（Random vector，缩写：rv），其联合分布律 （joint probability mass function，缩写：pmf）：

$$p(x,y)=P\{X=x,Y=y\},\quad (x,y)\in D$$

其中 $D$ 为 $(x,y)$ 的取值范围.

• 本征特性
  
  • 对任意 $(x,y)\in D$, $p(x,y)\geq 0$.
  • $\sum_{(x,y)\in D}p(x,y)=1$

---

联合分布律的图像表示

---

例：前两次命中的联合分布

设某个战士的射击命中率为 $p$. 现让其连续射击，直到命中两次时停止. 记 rv $X,Y$ 分别为其第一次和第二次命中时已经射击的次数，求 $(X,Y)$ 的联合分布律.

---

解：$(X,Y)$ 的取值范围 $D=\{1,2,3,\ldots\}\times\{2,3,4,\ldots\}$.

当 $x\geq y$ 时, $P\{X=x,Y=y\}=0$.

若 $x<y$,

$$\begin{aligned} P&\{X=x,Y=y\}=P\{Y=y|X=x\}P\{X=x\}\\ &=(1-p)^{y-x-1}p\cdot (1-p)^{x-1}p=p^2(1-p)^{y-2} \end{aligned}$$

于是可得 $(X,Y)$ 的联合分布律为

$$p(x,y)=\left\{\begin{array}{cc}p^2(1-p)^{y-2}& x<y,(x,y)\in D\\ 0&\text{其他}\end{array}\right.$$

---

例：在一个射击游戏中，参赛选手首先要抛一次骰子，将得到的点数记为 $X$，然后射击 $X$ 次，记录命中的次数（记为 $Y$）. 已知其单次命中的概率为 $p=0.9$. 求 $(X, Y)$ 的 pmf.

• 对 $x=1,2,...,6$, $y=0,1,...,x$
• $p(x,y)=P\{X=x,Y=y\}=P\{Y=y|X=x\}P\{X=x\}$
  
  • $=\frac{1}{6} C_{x}^{y} p^{y}(1-p)^{x-y}$

---

联合分布律的表格形式

$$\begin{array}{c|cccccc} %\hline y \;\;\backslash\;\; x & \quad 1\quad & \quad 2\quad & \quad 3\quad & \quad 4\quad & \quad 5\quad & \quad 6\quad\\ \hline 0 & 0.016667 & 0.001667 & 0.000167 & 0.000017 & 0.000002 & 0.000000\\ 1 & 0.150000 & 0.030000 & 0.004500 & 0.000600 & 0.000075 & 0.000009\\ 2 & & 0.135000 & 0.040500 & 0.008100 & 0.001350 & 0.000203\\ 3 & & & 0.121500 & 0.048600 & 0.012150 & 0.002430\\ 4 & & & & 0.109350 & 0.054675 & 0.016403\\ 5 & & & & & 0.098415 & 0.059049\\ 6 & & & & & & 0.088574 \end{array}$$

$$p(x,y)=\frac{1}{6} C_{x}^{y} p^{y}(1-p)^{x-y}$, $\left(\begin{aligned} x=1,2,...,6\\ y=0,1,...,x \end{aligned}\right)$$

---

14.1.2 联合分布函数

给定 rv $(X,Y)$ 的 pmf $p(x,y)$, 其联合分布函数（缩写：cdf）

$$F(x,y)=P\{X\leq x,Y\leq y\}$$

• 设 $(X,Y)$ 的取值范围为 $\{(x_i,y_j)\}\;(i,j=1,2,\ldots)$，且记 $p_{ij}=p(x_i,y_j)$
  
  • 定义 $\delta(x,y)=\left\{\begin{array}{cc}1& x,y\geq 0\\ 0&\text{其他}\end{array}\right.$
  • 则 $F(x,y)=\sum_{i=1}^{\infty}\sum_{j=1}^{\infty}p_{ij}\delta(x-x_i,y-y_j)$

---

联合分布函数的图像

---

联合分布函数的本征特性[1]

1. $F(x,y)$ 分别关于 $x,y$ 单调递增
2. 对任意 $x,y\in(-\infty,\infty)$
   
   • $F(-\infty,y)=F(x,-\infty)=0$
   • $F(+\infty,+\infty)=1$
3. $F(x,y)$ 关于 $x,y$ 均右连续
4. 对任意 $x_1<x_2,y_1<y_2$,
   
   • $F\left(x_{2}, y_{2}\right)+F\left(x_{1}, y_{1}\right)-F\left(x_{1}, y_{2}\right)-F\left(x_{2}, y_{1}\right) \geq 0$

---

联合分布函数和一元分布函数的差异

例：验证函数 $G(x,y)=\left\{\begin{array}{cc}1 & x+y\geq 5\\ 0 & x+y < 5\end{array}\right.$ 不可能是一个分布函数.

• 可以验证 $G(x,y)$ 满足分布函数的前三条本征特性
• 令 $(x_1,y_1)=(0,0)$, $(x_2,y_2)=(5,5)$
• $F\left(x_{2}, y_{2}\right)+F\left(x_{1}, y_{1}\right)-F\left(x_{1}, y_{2}\right)-F\left(x_{2}, y_{1}\right)$
  
  • $=1+0-1-1=-1<0$

---

14.1.3 边缘分布律

已知 $(X,Y)$ 的联合分布律，$X$ 的边缘分布律（Marginal pmf，缩写：pmf）

$$p_X(x)=\sum_{y}p(x,y)$$

• 边缘分布律就是 $X$ 自身的分布律！
• $Y$ 的边缘分布律：$p_Y(y)=\sum_{x}p(x,y)$

---

例： 设 rv $X$ 是从 $1,2,3,4$ 中随机抽取的一个数, rv $Y$ 是从 $1$ 到 $X$ 中随机抽取的一个整数. 求 $(X, Y)$ 的联合分布律和 $X,Y$ 的边缘分布律.

• $(x,y)$ 的取值范围是 $D=\{1\leq y\leq x\leq 4\}$.
• $p(x,y)=P\{Y=y|X=x\}\cdot P\{X=x\}\displaystyle =\frac{1}{x}\cdot\frac{1}{4},\quad (x,y)\in D.$
• $\displaystyle p_X(x)=\sum_{y}p(x,y)=\sum_{y=1}^{x}\frac{1}{4x}=\frac14,\quad (x=1,2,3,4)$
• $\displaystyle p_Y(y)=\sum_{x}p(x,y)=\sum_{x=y}^{4}\frac{1}{4x},\quad (y=1,2,3,4)$

---

从联合分布律到边缘分布律

$$\begin{array}{c|cccc|c} %\hline y \;\;\backslash\;\; x & \quad 1\quad & \quad 2\quad & \quad 3\quad & \quad 4\quad & \quad p_Y(y)\quad \\ \hline 1 & \frac{1}{4} & \frac{1}{8} & \frac{1}{12} & \frac{1}{16} & \frac{25}{48}\\ %\hline 2 & 0 & \frac{1}{8} & \frac{1}{12} & \frac{1}{16} & \frac{13}{48}\\ %\hline 3 & 0 & 0 & \frac{1}{12} & \frac{1}{16} & \frac{7}{48}\\ %\hline 4 & 0 & 0 & 0 & \frac{1}{16} & \frac{3}{48}\\ \hline p_X(x) & \frac{1}{4} & \frac{1}{4} & \frac{1}{4} & \frac{1}{4} & 1\\ %\hline \end{array}$$

---

13.1.4 边缘分布函数

若 rv $(X,Y)$ 的联合分布函数为 $F(x,y)$, rv $X,Y$ 的(边缘)分布函数分别为 cdf $F_X(x), F_Y(y)$，则

$$F_X(x)=P\{X\leq x\}=F(x,+\infty)$$

• 类似地，$F_Y(y)=P\{Y\leq y\}=F(+\infty,y)$

---

---

14.2 连续型随机向量

---

14.2.1 联合密度函数

设 $X,Y$ 均为连续型随机变量，其联合密度函数 ( joint pdf，缩写：pdf ) $f(x,y)$ 满足：对任意 $A\subset\mathbb{R}^2$

$$P\{(X,Y)\in A\}=\iint_{A}f(x,y)\mathrm{d}x\mathrm{d}y$$

• $f(x,y)$ 的本征特性
  
  • 对任意 $(x,y)\in\mathbb{R}^2$，$f(x, y)\geq 0$
  • $\int_{-\infty}^{\infty}\int_{-\infty}^{\infty}f(x,y)\mathrm{d}x\mathrm{d}y=1$

---

联合密度的图像

---

例：利用联合密度计算概率

设 $(X,Y)$ 的 pdf 为

$$f(x, y)=\left\{\begin{array}{cc} k \mathrm{e}^{-(2 x+y)}, &x>0, y>0 \\ 0,&\text {其他}\end{array}\right.$$

求 $P\{Y\leq X\}$ 和 $P\{X+Y\leq 1\}$.

---

解： 由联合密度的本征特性，

$$\begin{aligned} 1 &=\int_{-\infty}^{+\infty} \int_{-\infty}^{+\infty} f(x, y) \mathrm{d} x \mathrm{d} y =k \int_{0}^{+\infty} \int_{0}^{+\infty} \mathrm{e}^{-(2 x+y)} \mathrm{d} x \mathrm{d} y \\ &=k \int_{0}^{+\infty} \mathrm{e}^{-2 x} \mathrm{d} x \cdot \int_{0}^{+\infty} \mathrm{e}^{-y} \mathrm{d} y =\frac{k}{2} \end{aligned}$$

故 $k=2$.

---

记 $D=\{(x, y)\in\mathbb{R}^2 | y \leq x\}$, 则

$$\begin{aligned} P&\{Y \leq X\} =P\{(X, Y) \in D\} =\iint_D f(x, y) \mathrm{d} x d y \\ &=\int_{0}^{+\infty}\int_{y}^{+\infty} 2 \mathrm{e}^{-(2x+y)} \mathrm{d} x\mathrm{d} y =\frac{1}{3} \end{aligned}$$

---

类似地，

$$\begin{aligned} P&\{X+Y \leq 1\}=\iint\limits_{x + y \leq 1} f(x, y) \mathrm{d} x \mathrm{d} y \\ &=\int_{0}^{1} \int_{0}^{1-y} 2 \mathrm{e}^{-(2 x+y)} \mathrm{d} x\mathrm{d}y =1-2 \mathrm{e}^{-1}+\mathrm{e}^{-2} \end{aligned}$$

---

14.2.2 联合分布函数

给定 rv $(X,Y)$ 的联合密度，其联合分布函数

$$F(x,y)=P\{X\leq x,Y\leq y\}=\int_{-\infty}^{x}\int_{-\infty}^{y}f(s,t)\mathrm{d}s\mathrm{d}t$$

---

联合分布函数的图像

---

14.2.3 边缘分布函数

若 rv $(X,Y)$ 的联合分布函数为 $F(x,y)$, 则 rv $X,Y$ 的 (边缘) 分布函数分别为

$$F_X(x)=F(x,+\infty),\quad F_Y(y)=F(+\infty,y).$$

---

边缘分布函数的示意图

---

14.3.4 边缘密度函数

已知 rv $(X,Y)$ 的联合密度 $f(x,y)$，$X,Y$ 的边缘密度函数（marginal pdf，缩写：pdf）分别为

$$\begin{aligned} f_X(x)&=\int_{-\infty}^{\infty}f(x,y)\mathrm{d}y,\quad -\infty<x<\infty\\ f_Y(y)&=\int_{-\infty}^{\infty}f(x,y)\mathrm{d}x,\quad -\infty<y<\infty \end{aligned}$$

---

例：已知 rv $(X,Y)$ 的 pdf 为

$$f(x, y)=\left\{\begin{array}{cc}{c} & {x^{2} \leq y \leq x} \\ {0} & {\text {其他}}\end{array}\right.$$

求 $X,Y$ 的边缘密度.

---

解： 由密度函数的本征特性

$$\begin{aligned} 1 &=\int_{-\infty}^{+\infty} \int_{-\infty}^{+\infty} f(x, y) \mathrm{d} x \mathrm{d} y =\int_{0}^{1} \mathrm{d} x \int_{x^{2}}^{x} c \mathrm{d} y \\ &=c \int_{0}^{1}\left(x-x^{2}\right) \mathrm{d} x =\frac{c}{6} \end{aligned}$$

故 $c=6$.

---

$$\begin{aligned} f_{X}(x)&=\int_{-\infty}^{+\infty} f(x, y) \mathrm{d} y =\left\{\begin{array}{cc}\int_{x^{2}}^{x} 6 \mathrm{d} y & 0 \leq x \leq 1 \\ 0 &\text {其他}\end{array}\right.\\ &=\left\{\begin{array}{cc}6 x(1-x)& 0 \leq x \leq 1 \\ 0& \text {其他}\end{array}\right. \end{aligned}$$

$$\begin{aligned} f_{Y}(y)&=\int_{-\infty}^{+\infty} f(x, y) \mathrm{d} x =\left\{\begin{array}{cc}{\int_{y}^{\sqrt{y}} 6 \mathrm{d} x} & { 0 \leq y \leq 1} \\ {0} & {\text {其他}}\end{array}\right.\\ &=\left\{\begin{array}{cc}{6(\sqrt{y}-y)} & { 0 \leq y \leq 1} \\ {0} & {\text {其他}}\end{array}\right. \end{aligned}$$

---

小结

• 二维随机向量 $(X,Y)$ 的概率分布
  
  • pmf、pdf、cdf
  • 联合分布与边缘分布
• 难点：由联合 pdf 求边缘 pdf

---

联合分布与边缘分布

$$\begin{array}{c|c|c} & \text{pmf/pdf} & \text{cdf}\\ \hline \text{联合} & \begin{aligned} p(x,y)&=P\{X=x,Y=y\}\\ &=F(x,y)+F(x-0,y-0)\\ &\quad\quad -F(x-0,y)-F(x,y-0)\\ f(x,y)&=\frac{\partial^2}{\partial x\partial y}F(x,y) \end{aligned} & \begin{aligned} F(x,y)&=P\{X\leq x,Y\leq y\}\\ &=\left\{\begin{array}{l} \displaystyle\sum\limits_{x_i\leq x,y_j\leq y}p(x_i,y_j)\\ \displaystyle\int_{-\infty}^x\int_{-\infty}^yf(t,s)\mathrm{d}s\mathrm{d}t \end{array}\right. \end{aligned}\\ \hline \text{边缘} & \begin{aligned} p_X(x)&=\sum\limits_yp(x,y)=F_X(x)-F_X(x-0)\\ f_X(x)&=\int_{\mathrm{R}}f(x,y)\mathrm{d}y=\frac{\mathrm{d}}{\mathrm{d}x}F_X(x) \end{aligned} & \begin{aligned} F_X(x)&=F(x,+\infty)\\ &=\left\{\begin{array}{l} \displaystyle\sum\limits_{x_i\leq x}p_X(x_i)\\ \displaystyle\int_{-\infty}^xf_X(t)\mathrm{d}t \end{array}\right. \end{aligned} \end{array}$$

---

The definition of a good mathematical problem is the mathematics it generates rather than the problem itself.
-- Sir Andrew John Wiles