第三章连续型随机变量

3.1 连续型随机变量

定义

离散型随机变量只有可数多个可能取值，但很多实际随机量的取值范围包含连续区间，例如位置、速度、电压误差、发电功率等。

定义. $X$ $f_X:\mathbb{R}\to[0,+\infty)$ $I\subseteq\mathbb{R}$ ，都有

P (X \in I) = \int_{I} f_{X} (x) d x,

$X$ 连续型随机变量 $f_X$ $X$ 的概率密度函数。

用密度函数计算概率

$X$ 为连续型随机变量，则

P (a < X \leq b) = \int_{a}^{b} f_{X} (x) d x .

$x\in\mathbb{R}$ ，

P (X = x) = 0.

$0$ ，但这不代表单点是不可能结果。

概率密度函数的基本性质

非负性：

f_{X} (x) \geq 0.

归一性：

\int_{- \infty}^{+ \infty} f_{X} (x) d x = 1.

反之，任何满足以上两条性质的函数都可以作为某个连续型随机变量的概率密度函数。

与离散型随机变量的比较

类型	描述分布的函数	概率计算
离散型	$p_X(x)$	$P(X\in B)=\sum_{x\in B}p_X(x)$
连续型	$f_X(x)$	$P(X\in B)=\int_B f_X(x)\,dx$

注意：

$f_X(x)$ 的值本身不是概率。
$f_X(x)$ $1$ ，甚至可以无界。
$P(X=x)=0$ $x$ $X$ 是连续型随机变量。

3.2 常见连续型分布

区间上的均匀分布

$X$ $[a,b]$ 上均匀分布，则

f_{X} (x) = {\begin{cases} \frac{1}{b - a}, & a \leq x \leq b, \\ 0, & otherwise . \end{cases}

$X\sim U[a,b]$ 。

指数分布

若

f_{X} (x) = {\begin{cases} λ e^{- λ x}, & x \geq 0, \\ 0, & x < 0, \end{cases} λ > 0,

$X$ $\lambda$ 的指数分布。

指数分布常用于刻画连续时间等待时间或寿命。

正态分布

若

f_{X} (x) = \frac{1}{\sqrt{2 π} σ} \exp {- \frac{(x - μ)^{2}}{2 σ^{2}}}, x \in R,

$X\sim N(\mu,\sigma^2)$ 。

$N(0,1)$ 称为标准正态分布。

3.3 连续型随机向量

联合概率密度函数

定义. $(X,Y)$ $f_{X,Y}(x,y)$ $B\subseteq\mathbb{R}^2$ ，有

P ((X, Y) \in B) = \iint_{B} f_{X, Y} (x, y) d x d y,

$(X,Y)$ $f_{X,Y}$ 称为联合概率密度函数。

联合密度的基本性质

非负性：

f_{X, Y} (x, y) \geq 0.

归一性：

\int_{- \infty}^{+ \infty} \int_{- \infty}^{+ \infty} f_{X, Y} (x, y) d x d y = 1.

边缘概率密度函数

$(X,Y)$ $f_{X,Y}$ ，则边缘密度为

f_{X} (x) = \int_{- \infty}^{+ \infty} f_{X, Y} (x, y) d y,

f_{Y} (y) = \int_{- \infty}^{+ \infty} f_{X, Y} (x, y) d x .

联合密度能够确定边缘密度；边缘密度一般不能唯一确定联合密度。

注意事项

$X,Y$ $(X,Y)$ 是连续型随机向量。
- $Y=-X$ $y=-x$ 上，通常没有二维联合密度。
$(X,Y)$ $X$ $Y$ 都是连续型随机变量。

3.4 连续型随机变量的独立性

独立性判别

$X,Y$ 为连续型随机变量。以下命题等价：

$X,Y$ 相互独立；
$(X,Y)$ 为连续型随机向量，且

f_{X, Y} (x, y) = f_{X} (x) f_{Y} (y);

$g,h$ ，使得

f_{X, Y} (x, y) = g (x) h (y) .

独立随机变量函数

$X,Y,Z$ $f(X,Y)$ $g(Z)$ 相互独立。

连续情形下也常通过联合密度是否可分解为边缘密度之积来判断独立性。

3.5 连续型随机变量的期望与方差

期望

若

\int_{- \infty}^{+ \infty} | x | f_{X} (x) d x < \infty,

$X$ 的期望定义为

E [X] = \int_{- \infty}^{+ \infty} x f_{X} (x) d x .

若该积分不绝对收敛，则称期望不存在。

连续型 LOTUS 公式

$g$ 为函数，且右端绝对收敛，则

E [g (X)] = \int_{- \infty}^{+ \infty} g (x) f_{X} (x) d x .

$(X,Y)$ 为连续型随机向量，则

E [h (X, Y)] = \int_{- \infty}^{+ \infty} \int_{- \infty}^{+ \infty} h (x, y) f_{X, Y} (x, y) d x d y .

方差

连续型随机变量的方差定义与离散型相同：

Var (X) = E [(X - E [X])^{2}] .

等价地，

Var (X) = E [X^{2}] - (E [X])^{2} .

常见连续型分布的期望与方差

分布	期望	方差
$U[a,b]$	$(a+b)/2$	$(b-a)^2/12$
$\mathrm{Exp}(\lambda)$	$1/\lambda$	$1/\lambda^2$
$N(\mu,\sigma^2)$	$\mu$	$\sigma^2$

3.6 随机变量的分布函数

定义

$X$ ，其分布函数定义为

F_{X} (x) = P (X \leq x), x \in R .

分布函数可以刻画任意随机变量的分布，包括离散型、连续型和混合型。

分布函数的基本性质

单调不减：

x_{1} \leq x_{2} ⟹ F_{X} (x_{1}) \leq F_{X} (x_{2}) .

极限：

lim_{x \to - \infty} F_{X} (x) = 0, lim_{x \to + \infty} F_{X} (x) = 1.

右连续：

F_{X} (x + 0) = F_{X} (x) .

用分布函数计算概率

单点概率：

P (X = x) = F_{X} (x) - F_{X} (x - 0) .

区间概率：

P (a < X \leq b) = F_{X} (b) - F_{X} (a) .

离散型随机变量的分布函数

$X$ 为离散型随机变量，则

F_{X} (x) = \sum_{t \leq x} p_{X} (t) .

$X$ 可能取值处发生跳跃，跳跃高度等于对应点的概率。

连续型随机变量的分布函数

$X$ 为连续型随机变量，则

F_{X} (x) = \int_{- \infty}^{x} f_{X} (t) d t .

$f_X$ 连续处，有

F_{X}^{'} (x) = f_{X} (x) .

标准正态分布函数

标准正态分布函数记为

Φ (x) = \int_{- \infty}^{x} \frac{1}{\sqrt{2 π}} e^{- t^{2} / 2} d t .

$X\sim N(\mu,\sigma^2)$ ，则

F_{X} (x) = Φ (\frac{x - μ}{σ}) .

3.7 联合分布函数

定义

$(X,Y)$ ，联合分布函数定义为

F_{X, Y} (x, y) = P (X \leq x, Y \leq y) .

边缘分布函数

由联合分布函数可以得到边缘分布函数：

F_{X} (x) = lim_{y \to + \infty} F_{X, Y} (x, y),

F_{Y} (y) = lim_{x \to + \infty} F_{X, Y} (x, y) .

用联合分布函数判断独立性

$X,Y$ 相互独立当且仅当

F_{X, Y} (x, y) = F_{X} (x) F_{Y} (y), \forall x, y \in R .

3.8 一般随机变量的期望

一般随机变量的期望严格定义超出本课程范围，但可以这样理解：

$X_n$ $X$ ；
$X_n$ 的期望；
$E[X]$ 。

这种观点说明：离散型与连续型期望公式都是一般期望定义的特殊表现。

期望的基本性质

对一般随机变量，只要相关期望存在，仍有：

线性：

E [a X + b Y] = a E [X] + b E [Y] .

单调性：

X \geq Y a.s. ⟹ E [X] \geq E [Y] .

$X\ge0$ $E[X]\ge0$ 。
$|X|\le Y$ $E[Y]$ $E[X]$ 存在。
$E[X]$ $E[|X|]$ 存在。

一般方差

方差的定义可直接推广：

Var (X) = E [(X - E [X])^{2}],

并且仍有

Var (a X + b) = a^{2} Var (X) .

$X_1,\ldots,X_n$ 相互独立，则

Var (\sum_{i = 1}^{n} X_{i}) = \sum_{i = 1}^{n} Var (X_{i}) .

本章小结

连续型随机变量由概率密度函数刻画，概率通过积分计算。
联合密度描述多个连续型随机变量的联合分布，边缘密度通过对另一个变量积分得到。
连续型随机变量独立的核心判据是联合密度可分解：

f_{X, Y} (x, y) = f_{X} (x) f_{Y} (y) .

期望、方差的定义与离散型一致，只是求和变为积分。
$F_X(x)=P(X\le x)$ 可以统一刻画任意随机变量。
对一般随机变量，分布函数和一般期望理论是离散型与连续型方法的统一框架。

第三章 连续型随机变量