[경제통계학/002] 확률의 공리 및 이론

▶️ 확률의 공리 및 시그마대수 (전제 조건)

1. 확률의 공리(axiom)

공리1. 음이 아닌 확률

$$0 ≤ P(E) ≤ 1$$

공리2. 전체확률을 1이다

$$ P(S) = 1 $$

공리3. 상호배반인 임의의 사건($ A_i​∩A_j​=∅(i≠j) $ 에 대해, 

$$ P(\bigcup_{i=1}^{\infty} A_i)=\sum_{i=1}^{\infty}​P(A_i​) $$

 

2. 시그마대수( σ-algebra )

1. 공집합 포함 ( ∅ ∈ 𝐵 ) 

2. 여집합에 대해 닫혀 있음 ( 𝐴 ∈ 𝐵 이면, 𝐴 𝑐 ∈ 𝐵 )  

3. 가산 합집합에 대해 닫혀 있음 ( $A_1​, A_2 ,⋯ ∈ B 면 \bigcup_{𝑖 =1}^∞ 𝐴_𝑖 ∈ 𝐵$)

 

 

---

▶️ 확률의 개념

1. 두개의 사건에 대한 확률의 성질

1) $P(B ∩ A^c ) = P(B) − P(A ∩ B)$

2. $P(A ∪ B) = P(A) + P(B) − P(A ∩ B)$

   **특히, 만약 A와 B가 서로소라면 $P(A ∪ B) = P(A) + P(B)$

3. $A ⊂ B이면 P(A) ≤ P(B)$

 

2. 보수의 부등식(Bonferroni's Inequality)

$$ P(A ∩ B) ≥ P(A) + P(B) - 1 $$

두 사건의 교집합 확률에 대한 하한을 제시한다.

 

3. 분할(Partition)의 성질

분할이란 표본공간 𝑆 를 서로 겹치지 않게 나눈 조각들의 모임을 말한다. 각 $𝐶_1, 𝐶_2 , …$ 가 서로소이고 합치면 전체 𝑆 가 된다.

$$ P(A)= \bigcup_{i=1}^{\infty} P(A∩C_i ) $$

사건 A가 발생할 경우는 반드시 분할 조각 중 하나에서 일어나며, 각 조각(C)에서 A가 일어날 확률을 전부 더하면 P(A)가 된다는 의미이다.

 

4. 부울의 부등식(Boole's inequality)

$$ P(\bigcup_{ i=1}^{\infty} A_i  ) ≤ \sum_{ i=1}^{\infty} P(A_i  ) $$

여러 사건이 하나라도 발생할 확률(합집합)은 각 사건이 따로 발생할 확률의 합보다 작다는 것을 의미한다.

$$ P(\bigcup_{ i=1}^{\infty} A_i  ) = \sum_{ i=1}^{\infty} P(A_i  ) $$

이때, $A_1, A_2, …$ 가 서로소일 경우 등호가 성립힌다.

 

 

---

▶️ 조건부확률 (Conditional Probability)

$$ P(A | B) = \frac {P(A ∩ B)} {P(B)} $$

$P(B) > 0$ 일 때, 사건 B가 일어났다는 가정 하에 사건 A가 발생할 확률을 말한다. 사건 B가 일어났으니, 표본공간은 B로 제한되고 확률도 재조정된다.

 

 

---

▶️ 베이즈 정리(Bayes' Rule)

$$ P(A_i | B) = \frac{P(B | A_i)P(A_i)}{\sum_{j=1}^{\infty}P(B|A_j)P(A_j)}$$

 

 

 

---

 

▶️ 통계적 독립

1. 쌍별 독립

$$ P(A ∩ B) = P(A)P(B) $$

통계적으로 독립한 상태에서 사건 A와 B가 독립적이기 때문에 교집합의 확률과 각 사건의 확률의 곱이 같다.

하지만, 사건이 3개 이상인 경우, 쌍별 독립이 성립하더라도 상호독립이 성립되지는 않기 때문에 주의해야한다.

 

2. 상호 독립

$$ P(\bigcap_{j=1}^ k  A_ {i j}    )= \prod_{j=1}^  k  P(A _{i j}    ) $$

상호독립의 경우에는 쌍별 독립보다 강한 조건으로  위 식과 같이 성립된다.