漫步数理统计三——概率集合函数(上)

本文主要是介绍漫步数理统计三——概率集合函数(上)，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

令$\textbf{C}$表示样本空间，那么事件集应该是什么呢？我们感兴趣的是给事件、事件的补、事件的并或交分配概率，因此我们希望事件集包含这些事件的组合，这样的事件集称为$\textbf{C}$子集的$\sigma$域，定义如下：

$\textbf{定义1：}$($\sigma$域)令$\textbf{B}$表示$\textbf{C}$子集的集合，如果

1. $\phi\in\textbf{B}$($\textbf{B}$不为空)；
2. 如果$C\in\textbf{B}$，那么$C^c\in\textbf{B}$($\textbf{B}$对补运算封闭)；
3. 如果集合序列$\{C_1,C_2,\ldots\}$在$\textbf{B}$中，那么$\cup_{i=1}^\infty C_i=\textbf{B}$($\textbf{B}$对可数并运算封闭)
   那么我们称$\textbf{B}$是一个$\sigma$域。

注意由(1)(2)可知，$\sigma$域总是包含$\phi$与$\textbf{C}$，由(2)(3)并根据德摩根定律可得$\sigma-$域除了对可数并封闭外，还对可数交封闭，这就是我们事件集所需要的。为了避免混淆，注意等价式：令$C\subset\textbf{C}$，那么$C$是一个事件等价于$C\in\textbf{B}$。这些表达式我们以后都会用到，接下来给出一些$\sigma$域的实例：

1. 令$\textbf{C}$是任意集合，$C\subset\textbf{C}$，那么$\textbf{B}=\{C,C^c,\phi,\textbf{C}\}$是$\sigma-$域；
2. 令$\textbf{C}$是任意集合，$\textbf{B}$是$\textbf{C}$的幂集合，($\textbf{C}$所有子集组成的集)那么$\textbf{B}$是$\sigma$域；

3. 假设$\textbf{D}$是$\textbf{C}$子集构成一个非空集合，考虑事件集
   

   $$\textbf{B}=\cap\{\textbf{E}:\textbf{D}\subset\textbf{E}\text{并且}\textbf{E}\text{是一个}\sigma\text{域}\}$$

   它是包含$\textbf{D}$的最小$\sigma$域；因此有时也称为$\textbf{D}$生成的$\sigma$域；

4. 令$\textbf{C}=R$，其中$R$是所有实数构成的集合，令$\textbf{L}$是$R$中所有开区间构成的集合，令
   

   $$\textbf{B}_0=\cap\{\textbf{E}:\textbf{L}\subset\textbf{E}\text{并且}\textbf{E}\text{是一个}\sigma\text{域}\}$$

   这个$\sigma$域即$\textbf{B}_0$经常被称为实轴上的博雷尔(Borel)$\sigma$域。它不仅包含含开区间，还包含实数的闭区间与半开区间，这是一个重要的$\sigma$域。

现在我们有一个样本空间$\textbf{C}$以及事件集$\textbf{B}$，那么就能定义概率空间的第三个要素，即概率集合函数。为了导出这个概念，我们先考虑相对频率来近似概率。

$\textbf{注1：}$概率的定义由三个公理组成，我们用相对频率的三个直观性质导出来。令$C$是一个事件，假设我们重复进行$N$试验，那么$C$的相对频率就是$f_C=\sharp{C}/N$，其中$\sharp{C}$表示$N$次试验中$C$发生的次数，注意$f_C\geq 0,f_C\leq 1$，这就是前两个性质。对于第三个，假设$C_1,C_2$是不相交事件，那么$f_{C_1\cup C_2}=f_{C_1}+f_{C_2}$。这三个相对频率的性质形成了概率的公理，除了第三个是可数并以外。

$\textbf{定义2：}$(概率)令$\textbf{C}$是样本空间，$\textbf{B}$是$\textbf{C}$上的$\sigma$域，令$P$是定义在$\textbf{B}$上的实值函数，如果$P$满足下面三个条件：

1. 对所有的$C\in\textbf{B},P(C)\geq 0$；
   • $P(\textbf{C})=1$;
   • 如果$\{C_n\}$是$\textbf{B}$中的集合序列，并且对于所有的$m\neq n,C_m\cap C_n=\phi$，满足
     $$P\left(\bigcup_{n=1}^\infty C_n\right)=\sum_{n=1}^\infty P(C_n)$$

   • 那么$P$是一个概率集合函数(Probability set function)。

     概率集合函数告诉了我们概率在事件集合$\textbf{B}$上是如何分布的，在这个意义下我们讲概率分布，我们经常省略掉集合这个词，而是将$P$称为概率函数。

     下面的定理给出概率集合函数的其他性质，每个定理中，$P(C)$默认取定义在样本空间$\textbf{C}$的$\sigma$域$\textbf{B}$上的概率集合函数。

     $\textbf{定理1：}$对于每个事件$C\in\textbf{B},P(C)=1-P(C^c)$。

     $\textbf{证明：}$我们有$\textbf{C}=C\cup C^c,C\cap C^c=\phi$，因此根据定义2中的(2)(3)可得
     

     $$1=P(C)+P(C^c)$$

     即所要证的结论。$||$

     $\textbf{定理2：}$空集合的概率是空；即$P(\phi)=0$。

     $\textbf{证明：}$在定理1中，取$C=\phi$这样的话$C^c=\textbf{C}$，由此可得
     

     $$P(\phi)=1-P(\textbf{C})=1-1=0$$

     定理得证。$||$

     $\textbf{定理3：}$如果$C_1,C_2$是满足$C_1\subset C_2$ 的事件，那么$P(C_1)\leq P(C_2)$。

     $\textbf{证明：}$$C_2=C_1\cup(C_1^c\cap C_2),C_1\cap(C_1^c\cap C_2)=\phi$，那么根据定义2的(3)可得
     

     $$P(C_2)=P(C_1)+P(C_1^c\cap C_2)$$

     根据定义2的(1)，$P(C_1^c\cap C_2)\geq 0$，因此$P(C_2)\geq P(C_1)$。$||$

     $\textbf{定理4：}$对每个$C\in\textbf{B}，0\leq P(C)\leq 1$。

     $\textbf{证明：}$因为$\phi\subset C\subset\textbf{C}$，利用定理3可得
     

     $$P(\phi)\leq P(C)\leq P(\textbf{C})\quad or\quad 0\leq P(C)\leq 1$$

     证毕。$||$

     概率定义的(3)说明如果$C_1,C_2$是不相交的即$C_1\cap C_2=\phi$，那么$P(C_1\cup C_2)=P(C_1)+P(C_2)$。下面的定理给出了任意两个事件满足的法则。

     $\textbf{定理5：}$如果$C_1,C_2$是$\textbf{C}$中的事件，那么
     

     $$P(C_1\cup C_2)=P(C_1)+P(C_2)-P(C_1\cap C_2)$$

     $\textbf{证明：}$集合$C_1\cup C_2,C_2$分别可以用不相交集合的并表示出来：
     

     $$C_1\cup C_2=C_1\cup(C_1^c\cap C_2)\quad and\quad C_2=(C_1\cap C_2)\cup(C_1^c\cap C_2)$$

     因此根据定理2的(3)可得
     

     $$P(C_1\cup C_2)=P(C_1)+P(C_1^c\cap C_2)$$

     以及
     

     $$P(C_2)=P(C_1\cap C_2)+P(C_1^c\cap C_2)$$

     第二个等式求出$P(C_1^c\cap C_2)$，然后代入第一个等式得
     

     $$P(C_1\cup C_2)=P(C_1)+P(C_2)-P(C_1\cap C_2)$$

     证毕。$||$

     $\textbf{注2：}$(容斥公式)很容易得出
     

     $$P(C_1\cup C_2\cup C_3)=p_1-p_2+p_3$$

     其中
     

     $$\begin{align*} p_1&=P(C_1)+P(C_2)+P(C_3)\\ p_2&=P(C_1\cap C_2)+P(C_1\cap C_3)+P(C_2\cap C_3)\\ p_3&=P(C_1\cap C_2\cap C_3) \end{align*}$$

     我们可以将其推广：
     

     $$P(C_1\cup C_2\cup\cdots\cup C_k)=p_1-p_2+p_3-\cdots+(-1)^{k+1}p_k$$

     其中$p_i$等于所有$i$个集合交的概率之和。当$k=3$时很明显可知$p_1\geq p_2\geq p_3$，更一般的$p_1\geq p_2\geq\cdots\geq p_k$，
     

     $$p_1=P(C_1)+P(C_2)+\cdots+P(C_k)\geq P(C_1\cup C_2\cup\cdots\cup C_k)$$

     这就是布尔不等式。当$k=2$时我们有
     

     $$1\geq P(C_1\cup C_2)=P(C_1)+P(C_2)-P(C_1\cap C_2)$$

     这就给出了邦弗朗尼不等式，
     

     $$1\geq P(c_1\cup C_2)=P(C_1)+P(C_2)-P(C_1\cap C_2)$$

     这在$P(C_1),P(C_2)$很大时有用。容斥公式还给出了其他有用的不等式；像
     

     $$p_1\geq P(C_1\cup C_2\cup\cdots\cup C_k)\geq p_1-p_2$$

     以及
     

     $$p_1-p_2+p_3\geq P(C_1\cup C_2\cup\cdots\cup C_k)\geq p_1-p_2+p_3-p_4$$

     $\textbf{例1：}$令$\textbf{C}$表示两个掷骰子所得有序对的样本空间，概率集合函数对$\textbf{C}$中的36个点都分配概率为$\frac{1}{36}$。如果$C_1=\{(1,1),(2,1),(3,1),(4,1),(5,1)\},C_2=\{(1,2),(2,2),(3,2)\}$，那么$P(C_1)=\frac{5}{36},P(C_2)=\frac{3}{36},P(C_1\cup C_2)=\frac{8}{36},P(C_1\cap C_2)=0$。$||$

     $\textbf{例2：}$投掷两枚硬币，结果是有序对，那么样本空间可以表示成$C=\{(H,H),(H,T),(T,H),(T,T)\}$。概率集合函数对$\textbf{C}$中每个元素分配概率为$\frac{1}{4}$,。$C_1=\{(H,H),(H,T)\},C_2=\{(H,H),(T,H)\}$，那么$P(C_1)=P(C_2)=\frac{1}{2},P(C_1\cap C_2)=\frac{1}{4}$，利用定理5得$P(C_1\cup C_2)=\frac{1}{2}+\frac{1}{2}-\frac{1}{4}=\frac{3}{4}$。$||$

这篇关于漫步数理统计三——概率集合函数(上)的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！

---