概率论基础

基本概念

事件运算 𝐴 +𝐵 : =𝐴 ∪𝐵 ，相当于或运算
𝐴⁢𝐵 : =𝐴 ∩𝐵 ，同时发生

条件概率

• 条件概率：𝐴 发生的前提下 𝐵 发生的概率，表示为 𝑃⁡(𝐵 ∣𝐴) : =𝑃⁡(𝐴⁢𝐵)𝑃⁡(𝐴)

• 全概率公式：𝐵 依赖于一堆事件 𝐴1…𝐴𝑛 的其中一个，则 𝑃⁡(𝐵) =∑𝑛𝑖=1𝑃⁡(𝐴𝑖)⁢𝑃⁡(𝐵 ∣𝐴𝑖)

• 贝叶斯公式：𝑃⁡(𝐴 ∣𝐵) =𝑃⁡(𝐵∣𝐴)⁢𝑃⁡(𝐴)𝑃⁡(𝐵) 实际上就是一个条件概率的推导 𝑃⁡(𝐵∣𝐴)⁢𝑃⁡(𝐴)𝑃⁡(𝐵)=𝑃⁡(𝐴⁢𝐵)𝑃⁡(𝐴)⁢𝑃⁡(𝐴)𝑃⁡(𝐵)=𝑃⁡(𝐴⁢𝐵)𝑃⁡(𝐵)=𝑃⁡(𝐴∣𝐵)

• 若 𝑃⁡(𝐴⁢𝐵) =𝑃⁡(𝐴)⁢𝑃⁡(𝐵) 则 𝐴,𝐵 互为独立事件，于是 𝑃⁡(𝐵 ∣𝐴) =𝑃⁡(𝐵)

随机变量

只介绍离散型随机变量。

离散型随机变量 𝑋，可以理解为 𝑋 有有限种取值，且每个取值都有一个概率。换句话说，𝑋 的取值是一个有限的集合，集合里面每一个值都有一个概率，𝑋 按照概率取值。

随机变量独立性：对于两个独立变量 𝑋⁢𝑌，有 𝑃⁡(𝑋 =𝑥𝑖,𝑌 =𝑦𝑖) =𝑃⁡(𝑋 =𝑥𝑖)⁢𝑃⁡(𝑌 =𝑦𝑖) （, 表示且）
倒过来也是正确的。

期望

定义： 一个随机变量取值对概率的加权平均数。
即：𝐸⁡(𝑋) =∑𝑖𝑥𝑖⁢𝑝𝑖，𝑥𝑖 代表可能的取值，𝑝𝑖 代表取值对应的概率。

• 期望的一个简单性质：𝐸⁡(𝑎⁢𝑋 +𝑏) =𝑎⁢𝐸⁡(𝑋) +𝑏
  我们可以设 𝑋 的意义为均匀骰子可能掷出的点数，于是上面的东西就可以轻松感性理解了~
  证明套定义

• 期望的线性性：𝐸⁡(𝑋) +𝐸⁡(𝑌) =𝐸⁡(𝑋 +𝑌) 证明同样套定义：设 𝕏,𝕐 分别是 𝑋，𝑌 的取值集合，显然有：
  𝐸⁡(𝑋+𝑌)=∑𝑥∈𝕏∑𝑦∈𝕐𝑃⁡(𝑋=𝑥,𝑌=𝑦)⁢(𝑥+𝑦)=∑𝑥∈𝕏∑𝑦∈𝕐𝑃⁡(𝑋=𝑥,𝑌=𝑦)⁢𝑥+    ∑𝑥∈𝕏∑𝑦∈𝕐𝑃⁡(𝑋=𝑥,𝑌=𝑦)⁢𝑦=∑𝑥∈𝕏𝑃⁡(𝑋=𝑥)⁢𝑥+∑𝑦∈𝕐𝑃⁡(𝑌=𝑦)⁢𝑦=𝐸⁡(𝑋)+𝐸⁡(𝑌)

• 随机独立变量的乘积：𝐸⁡(𝑋⁢𝑌) =𝐸⁡(𝑋)⁢𝐸⁡(𝑌)