概率论与数理统计笔记 第一章 概率论的基本概念

概率论与数理统计笔记（计算机专业） 作者：catpub 新浪微博：@catpub

课程：中国大学MOOC浙江大学概率论与数理统计

部分平台可能无法显示公式，若公式显示不正常可以前往CSDN或作业部落进行查看

前往知乎查看目录与导航

第0讲 绪论

• 绪论

第1讲 样本空间，随机事件

• 样本空间
  
  • 集合 $S$
• 随机事件
  
  • 集合 $A\subseteq S$
• 基本事件
  
  • 集合 $A$ 只有一个元素
• 不可能事件
  
  • 集合 $A=\emptyset$

第2讲 事件的相互关系及运算

• 事件的关系
  
  1. 包含 $A\subseteq B$
  2. 相等 $A=B$
  3. 和事件 $A+B$
  4. 积事件 $A\cap B,AB$
  5. 不相容事件，互斥事件 $AB=\emptyset$
  6. 差事件 $A-B$
  7. 逆事件 $\overline A$
• 事件关系满足交换律，结合律，德摩根率
• 基本的运算规律
  
  1. $A+\overline A=1$
  2. $A\overline A=\emptyset$
  3. $A-B=A\cap \overline B=A-AB$

第3讲 频率

• 频率

第4讲 概率

• 直观定义：随机事件发生的稳定值，记为 $P(A)=p$
• 概率的性质（前三条为概率的公理化定义）
  
  1. 非负性 $P(\emptyset)=0$
  2. 规范性 $P(A)=1-P(\overline A)​$
  3. 可列可加性
     
     • 若 $A,B$ 两两互斥
     • $$P(\bigcup_{i=1}^{\infty}A_i)=\sum_{i=1}^\infty P(A_i)$$
  4. $$P(B-A)=P(B)-P(AB)$$
  5. 概率的加法公式
     
     • $$\begin{split} P(\bigcup_{i=1}^{n}A_i)=&\sum_{i=1}^{n}P(A_i)- \sum_{1\leq i<j\leq n}P(A_iA_j)+\\&\sum_{1\leq i<j<k\leq n}P(A_i A_j A_k)+...+(-1)^{n-1}P(A_1 A_2 ... A_n) \end{split}$$

第5讲 等可能概型（古典概型）

• 特点
  
  1. 有限性
  2. 等可能性
• 组合数
  
  • $$C_N^n={N\choose n}=\frac{N!}{n!(N-n)!}$$
• 例题5-1
  
  • 抽签问题
  • 先抽后抽概率相等

第6讲 条件概率

• 定义
  
  • $$P(B|A)=\frac{P(AB)}{P(A)},P(A)>0$$
• 乘法公式
  
  • $$P(AB)=P(A)P(B|A)$$

第7讲 全概率公式与贝叶斯公式

• 全概率公式
  
  • 若$B_1, B_2, B_3,...,B_n$是$S$的划分（离散数学中的概念），则
  • $$P(A)=\sum_{j=1}^{n}P(B_j)P(A|B_j)$$
  • 关键在于能否构造一个合适的划分
  • 原理是分情况讨论
• 贝叶斯公式
  
  • $$P(B_i|A)=\frac{P(AB_i)}{P(A)}=\frac{P(B_i)P(A|B_i)}{\sum_{j=1}^{n}P(B_j)P(A|B_j)}$$
  • A是后验概率，B是先验概率。贝叶斯公式描述了先验概率已知的情况下，后验概率对先验概率的修正。
  • 直观理解：癌症检查中，已知一个人有患癌症的可能，那么后验概率（检查结果）对先验概率（检查前患癌症的可能）的修正，可以增加或减少这个人患癌症的概率。也即医院检查可以（一定概率上）确诊。
  • 作者拓展：贝叶斯公式在推荐算法上（如搜索引擎排序）具有重要应用，它可以通过用户的点击修正推荐排序结果

第8讲 事件的独立性

• 事件的独立性常常通过实际情况来判断
• 公理化定义
  
  • 对事件组 $A_1,A_2,...,A_n$，若他们相互独立，则必有
  • $$\begin{split}&P(A_i A_j)=P(A_i)P(A_j)\\&P(A_i A_j A_k)=P(A_i)P(A_j)P(A_k)\\&...\\&P(A_1 A_2...A_n)=P(A_1)P(A_2)...P(A_n)\end{split}$$
  • 注意，若三个事件两两独立，不能推出三个事件相互独立
• 性质
  
  • 若 $A,B$ 相互独立，则 $\overline A,B$，$A,\overline B$，$\overline A,\overline B$ 也相互独立
• 小概率事件
  
  • 小概率事件在一次实验中几乎不发生
  • 但在大规模重复实验中，至少有一次发生的概率非常高

作者拓展：三门问题

三门问题（Monty Hall problem）亦称为蒙提霍尔问题、蒙特霍问题或蒙提霍尔悖论，大致出自美国的电视游戏节目Let's Make a Deal。问题名字来自该节目的主持人蒙提·霍尔（Monty Hall）。参赛者会看见三扇关闭了的门，其中一扇的后面有一辆汽车，选中后面有车的那扇门可赢得该汽车，另外两扇门后面则各藏有一只山羊。当参赛者选定了一扇门，但未去开启它的时候，节目主持人开启剩下两扇门的其中一扇，露出其中一只山羊。主持人其后会问参赛者要不要换另一扇仍然关上的门。问题是：换另一扇门会否增加参赛者赢得汽车的机率？如果严格按照上述的条件，即主持人清楚地知道，哪扇门后是羊，那么答案是会。不换门的话，赢得汽车的几率是1/3。换门的话，赢得汽车的几率是2/3。

这个问题亦被叫做蒙提霍尔悖论：虽然该问题的答案在逻辑上并不自相矛盾，但十分违反直觉。这问题曾引起一阵热烈的讨论。

• 问题的关键在于主持人已知哪个门后有羊，他的行为（排除一个错误答案）改变了赢得汽车的概率。