条件概率与全概率、贝叶斯公式

条件概率

条件概率的定义

定义：设 $A$ 和 $B$ 是两个事件，且 $P(B) > 0$，则在事件 $B$ 发生的条件下，事件 $A$ 发生的概率称为条件概率，记为 $P(A|B)$，定义为： $P(A|B) = \frac{P(A \cap B)}{P(B)}$

条件概率的直观理解

理解：条件概率 $P(A|B)$ 表示在已知事件 $B$ 发生的条件下，事件 $A$ 发生的概率。它反映了事件 $B$ 的发生对事件 $A$ 发生概率的影响。

条件概率的性质

性质 1：$0 \leq P(A|B) \leq 1$

性质 2：$P(\Omega|B) = 1$，$P(\varnothing|B) = 0$

性质 3：如果 $A_1, A_2, \dots, A_n$ 两两互斥，则： $P(A_1 \cup A_2 \cup \dots \cup A_n|B) = P(A_1|B) + P(A_2|B) + \dots + P(A_n|B)$

性质 4：$P(\overline{A}|B) = 1 - P(A|B)$

条件概率的乘法公式

公式：对任意两个事件 $A$ 和 $B$，有： $P(A \cap B) = P(B)P(A|B) = P(A)P(B|A)$

推广：对任意 $n$ 个事件 $A_1, A_2, \dots, A_n$，有： $P(A_1 \cap A_2 \cap \dots \cap A_n) = P(A_1)P(A_2|A_1)P(A_3|A_1 \cap A_2) \dots P(A_n|A_1 \cap A_2 \cap \dots \cap A_{n-1})$

条件概率的例子

例 1：从一副扑克牌中随机抽取一张牌

• 设 $A = \{\text{抽到红桃}\}$
• 设 $B = \{\text{抽到红牌}\}$
• $P(A) = \frac{13}{52} = \frac{1}{4}$
• $P(A|B) = \frac{P(A \cap B)}{P(B)} = \frac{\frac{13}{52}}{\frac{26}{52}} = \frac{1}{2}$

例 2：掷两颗骰子

• 设 $A = \{\text{第一颗骰子出现6}\}$
• 设 $B = \{\text{两颗骰子点数之和为8}\}$
• $P(A) = \frac{1}{6}$
• $P(B) = \frac{5}{36}$（有 5 种情况：(2,6), (3,5), (4,4), (5,3), (6,2)）
• $P(A \cap B) = \frac{1}{36}$（只有(6,2)一种情况）
• $P(A|B) = \frac{\frac{1}{36}}{\frac{5}{36}} = \frac{1}{5}$

全概率公式

全概率公式的定义

定义：设 $A_1, A_2, \dots, A_n$ 是样本空间 $\Omega$ 的一个划分（即 $A_i \cap A_j = \varnothing$ 对 $i \neq j$，且 $A_1 \cup A_2 \cup \dots \cup A_n = \Omega$），且 $P(A_i) > 0$ 对 $i = 1, 2, \dots, n$，则对任意事件 $B$，有： $P(B) = \sum_{i=1}^n P(A_i)P(B|A_i)$

全概率公式的直观理解

理解：全概率公式将复杂事件 $B$ 的概率分解为在不同条件下发生的概率的加权和。它体现了”分而治之”的思想。

全概率公式的证明

证明：

1. $B = B \cap \Omega = B \cap (A_1 \cup A_2 \cup \dots \cup A_n)$
2. $= (B \cap A_1) \cup (B \cap A_2) \cup \dots \cup (B \cap A_n)$
3. 由于 $A_1, A_2, \dots, A_n$ 两两互斥，所以 $(B \cap A_1), (B \cap A_2), \dots, (B \cap A_n)$ 也两两互斥
4. 因此 $P(B) = \sum_{i=1}^n P(B \cap A_i)$
5. 由乘法公式，$P(B \cap A_i) = P(A_i)P(B|A_i)$
6. 所以 $P(B) = \sum_{i=1}^n P(A_i)P(B|A_i)$

全概率公式的例子

例 3：有三个盒子，分别含有 2、3、5 个球，随机选一盒取一球

• 设 $A_i = \{\text{选第 } i \text{ 盒}\}$，$i = 1, 2, 3$
• 设 $B = \{\text{取到白球}\}$
• $P(A_1) = P(A_2) = P(A_3) = \frac{1}{3}$
• 假设第 1 盒全白，第 2 盒全白，第 3 盒有 3 白 2 黑
• $P(B|A_1) = 1$，$P(B|A_2) = 1$，$P(B|A_3) = \frac{3}{5}$
• $P(B) = \frac{1}{3} \times 1 + \frac{1}{3} \times 1 + \frac{1}{3} \times \frac{3}{5} = \frac{1}{3} + \frac{1}{3} + \frac{1}{5} = \frac{11}{15}$

贝叶斯公式

贝叶斯公式的定义

定义：在全概率公式的条件下，对任意事件 $B$ 且 $P(B) > 0$，有： $P(A_i|B) = \frac{P(A_i)P(B|A_i)}{\sum_{j=1}^n P(A_j)P(B|A_j)}$

贝叶斯公式的直观理解

理解：贝叶斯公式用于计算在事件 $B$ 发生的条件下，事件 $A_i$ 发生的概率。它体现了”逆概率”的思想，即从结果反推原因。

贝叶斯公式的证明

证明：

1. 由条件概率定义，$P(A_i|B) = \frac{P(A_i \cap B)}{P(B)}$
2. 由乘法公式，$P(A_i \cap B) = P(A_i)P(B|A_i)$
3. 由全概率公式，$P(B) = \sum_{j=1}^n P(A_j)P(B|A_j)$
4. 所以 $P(A_i|B) = \frac{P(A_i)P(B|A_i)}{\sum_{j=1}^n P(A_j)P(B|A_j)}$

贝叶斯公式的例子

例 4：继续例 3 的问题，求取到白球的条件下，球来自第 3 盒的概率

• $P(A_3|B) = \frac{P(A_3)P(B|A_3)}{P(B)}$
• $= \frac{\frac{1}{3} \times \frac{3}{5}}{\frac{11}{15}} = \frac{\frac{1}{5}}{\frac{11}{15}} = \frac{3}{11}$

例 5：某工厂生产的产品由三个车间生产，第一车间生产 40%，第二车间生产 35%，第三车间生产 25%。第一车间的次品率为 2%，第二车间的次品率为 1%，第三车间的次品率为 3%。现从产品中随机抽取一件，发现是次品，求它来自第一车间的概率。

解：

1. 设 $A_i = \{\text{产品来自第 } i \text{ 车间}\}$，$i = 1, 2, 3$
2. 设 $B = \{\text{产品是次品}\}$
3. $P(A_1) = 0.4$，$P(A_2) = 0.35$，$P(A_3) = 0.25$
4. $P(B|A_1) = 0.02$，$P(B|A_2) = 0.01$，$P(B|A_3) = 0.03$
5. $P(B) = 0.4 \times 0.02 + 0.35 \times 0.01 + 0.25 \times 0.03 = 0.008 + 0.0035 + 0.0075 = 0.019$
6. $P(A_1|B) = \frac{0.4 \times 0.02}{0.019} = \frac{0.008}{0.019} \approx 0.421$

事件的独立性

事件独立性的定义

定义：如果事件 $A$ 和 $B$ 满足： $P(A \cap B) = P(A)P(B)$

则称事件 $A$ 和 $B$ 独立。

事件独立性的等价条件

等价条件：事件 $A$ 和 $B$ 独立的充要条件是： $P(A|B) = P(A) \quad \text{或} \quad P(B|A) = P(B)$

事件独立性的性质

性质 1：如果 $A$ 和 $B$ 独立，则 $A$ 和 $\overline{B}$ 独立，$\overline{A}$ 和 $B$ 独立，$\overline{A}$ 和 $\overline{B}$ 独立。

性质 2：如果 $A$ 和 $B$ 独立，且 $P(B) > 0$，则 $P(A|B) = P(A)$。

性质 3：不可能事件与任意事件独立。

多个事件的独立性

定义：事件 $A_1, A_2, \dots, A_n$ 称为相互独立，如果对任意 $k$ 个事件 $A_{i_1}, A_{i_2}, \dots, A_{i_k}$，都有： $P(A_{i_1} \cap A_{i_2} \cap \dots \cap A_{i_k}) = P(A_{i_1})P(A_{i_2}) \dots P(A_{i_k})$

独立性的例子

例 6：掷两颗骰子

• 设 $A = \{\text{第一颗骰子出现6}\}$
• 设 $B = \{\text{第二颗骰子出现6}\}$
• $P(A) = \frac{1}{6}$，$P(B) = \frac{1}{6}$
• $P(A \cap B) = \frac{1}{36} = \frac{1}{6} \times \frac{1}{6} = P(A)P(B)$
• 所以 $A$ 和 $B$ 独立

练习题

练习 1

已知 $P(A) = 0.3, P(B|A) = 0.5$，求 $P(A \cap B)$。

练习 2

有三个盒子，分别含有 2、3、5 个球，随机选一盒取一球，求取到球来自第 3 盒的条件下该球为白球的概率（第 3 盒有 3 白 2 黑，其他全白）。

练习 3

已知 $P(A) = 0.6, P(B) = 0.5, P(A \cap B) = 0.3$，判断 A、B 是否独立。

练习 4

某工厂生产的产品由两个车间生产，第一车间生产 60%，第二车间生产 40%。第一车间的次品率为 1%，第二车间的次品率为 2%。现从产品中随机抽取一件，发现是次品，求它来自第一车间的概率。

练习 5

掷两颗骰子，设 $A = \{\text{第一颗骰子出现偶数}\}$，$B = \{\text{两颗骰子点数之和为7}\}$，判断 $A$ 和 $B$ 是否独立。