概率、概率公理、样本空间、随机变量、概率分布函数、期望、期望的线性性质
目录
- 概率、概率公理、样本空间、随机变量、概率分布函数、期望、期望的线性性质
- 概率
- 概率公理（柯尔莫哥洛夫）
- 随机变量
- 期望
- 期望的线性性质
概率
公理概率：只有满足概率公理的概率才能称为概率。
古典概率：在等可能性的前提下，由“条件数的比值”确定的概率。是公理概率的特殊化。
统计概率：是由“发生频率的比值”所确定的概率
概率公理（柯尔莫哥洛夫）
样本空间是基本事件的集合。
概率分布函数是样本空间的子集到实数集的函数
设\(\Omega\)为集合，A, B是\(\Omega\)的子集，设Pr为\(\Omega\)的子集到实数集的函数，令函数Pr满足以下公理P1, P2, P3.
公理P1: 0 <= Pr(A) <= 1
公理P2: Pr(\(\Omega\)) = 1(必然事件概率为1)
公理P3: 如果 $ A \cap B = {}\(,则\)
集合\(\Omega\)称为样本空间;
\(\Omega\)的子集称为事件;
函数Pr称为概率分布函数;
实数Pr(A)称为A发生的概率。
随机变量
随机变量是样本空间\(\Omega\)到实数集\(\Re\)的函数。
期望
随机变量X的期望E[X]定义如下：
\[E[X] = \sum _{k=0} ^{\infty}{c_k * Pr(X=c_k)}
\]其中，co, c1, c2... ck表示随机变量X的取值
\(Pr(X = c_k)\)表示随机变量等于值\(c_k\)的概率。
期望的线性性质
假设随机变量X和Y定义在同一个样本空间上，那么X+Y也是定义在此样本空间上的随机函数，则
\[E[X+Y] = E[X] + E[Y]\\E[K*X] = K*E[X] (K为常数) \]
和的期望等于期望的和。
Note:
当随机变量X = X1 + X2 + X3时，
实际上是说
对任意\(\omega \in \Omega\)，都有
\[X(\omega) = X1(\omega) + X2(\omega) + x3(\omega)
\]例子：
掷骰子直至掷出所有点数，求此时掷骰子的次数的期望。
将“掷出所有点数时掷骰子的次数”设为随机变量X.
\(X_j\)表示假设已经出现了j中点数，直至掷出没有出现过的点数时，掷骰子的次数。
则 $ X = X_0 + X_1 + X_2 + X_3 + X_4 + X_5$
对随机变量\(X_j\)进行讨论
掷出没出现过的点数的概率为\(p_j\)
\[p_j = (6-j) / 6 = 1 -j/6
\]相反的，掷出出现过的点数的概率为\(q_j\)
\[q_j = j/6 \]
现在掷骰子的问题变成了抛硬币。硬币出现正面的概率为\(p_j\)，反面的概率为\(q_j\)
$Pr(X_j = k) $表示在出现k-1次反面后，出现正面的概率。
\[Pr(X_j = k) = q_j^(k-1) p_j
\]
\[E(X_j) = \lim _{n \to \infty} \sum _{k=1} ^n {k*Pr(X_j=k)} \\= 6 / (6-j)
\]
\[E(X) = 6*(1+1/2+1/3+1/4+1/5+1/6) = 14.7
\]
