随机变量的数字特征
本文内容主要参考自
1、《概率论与数理统计》第2版,徐全智、吕恕编,高等教育出版社;
2、黄庆明老师课件。
第一部分数学期望
一、随机变量的数学期望
定义设离散型随机变量
的分布律为
若
,则称
为随机变量
的数学期望或均值。
定义 设连续型随机变量
的概率密度为
,若
,则称
为随机变量
的数学期望或均值。
二、随机变量的函数的数学期望
定理设
是随机变量
的函数
(
是连续函数)。(1)若
是离散型随机变量,其分布律为
如果
绝对收敛,则有
(2)若
是连续性随机变量,其密度函数是
,如果
则
利用定理1,我们可不必求出随机变量的分布(分布律或概率密度),直接利用随机变量的已知分布即可。
定理推广到多个随机变量的情况。
定理设
是二维随机变量,
也是随机变量。(1)若
是离散型随机变量,其联合分布律为
则当
时,
(2)若
是连续型随机变量,其联合概率密度为
,则当
有
三、数学期望的性质
(1)设
是常数,则有
;(2)设
是随机变量,
是常数,则有
;(3)设
、
是两个随机变量,则有
;(4)设
、
是相互独立的随机变量,则有
.
第二部分随机变量的方差
一、随机变量的方差
定义 1 设
是随机变量,若
存在,则称
为
的方差,称
为
的标准差(或均方差)。方差
是随机变量
的数学期望,当
是离散型随机变量,则
当
是连续型随机变量,则
方差常用计算公式:
证
二、方差的性质
(1)若
是常数,则
;(2)设随机变量
的方差存在,
是常数,有
;(3)设随机变量
与
的方差存在,有
又若
与
独立,则
(4)随机变量
的方差为零的充分必要条件是
以概率为1取常数
,即
三、标准化随机变量
设随机变量
的数学期望存在,方差
,令
则有
其中,
称为随机变量
的标准化随机变量,
证
第三部分 协方差
一、协方差的定义
现描述两个随机变量之间关系的数字特征。
定义若关于随机变量
的数学期望
存在,则称
为随机变量
与
的协方差。
特别有
另外,方差的性质(3),又可以写作
二、协方差的性质
(1)对称性:
(2)齐性:
是常数;(3)可加性:
常利用下述公式
三、协方差矩阵
定义设n维随机变量
的协方差存在,称矩阵
为n维随机变量
的协方差矩阵。协方差矩阵
满足:(1)
(2)
可见协方差矩阵是一个对称矩阵。
协方差矩阵说明随机向量X的各分量的分散情况,也可这样写:
其中,协方差矩阵的各分量为:
若i!=j,则λij是X的第i个分量与第j个分量的协方差;
若i = j,则λii是随机变量Xi的方差,即协方差矩阵的对角分量。
第四部分相关系数
若随机变量
的协方差及方差均存在,而且
,则称
为随机变量
与
的相关系数。
上述公式可以写成下面的形式
即相关系数
是
与
相应的标准化随机变量的协方差。定义 若随机变量
相关系数存在,且
,则称
、不相关;若
,则称
、正相关;若
,则称
、负相关。需要特别指出:称随机变量
与
不相关,仅指它们不存在线性相关关系。定理 如果随机变量
与
相互独立,则
与
不相关。
此定理的逆定理不存在。
补充:
若
,可得到
。
由于二维正态随机变量相互独立的充分必要条件是,亦即它们相互独立等价于它们不相关。
后续会添加一些对常见分布的总结,敬请期待!