[Probabilistics] 확률 이론(2강) - Kolmogorov Axioms

• 수식이 제대로 보이지 않는다면, 새로고침(F5)을 해주시기 바랍니다.

이번 글에서는 Kolmogorov Axioms에 대해 집중적으로 다룹니다. Axiom이란 쉽게 말해 자명한 진리를 의미합니다. 즉, 별다른 증명 없이 당연히 받아들여지는 기본적 원리라고 보시면 됩니다. 나쁘게 말하면 그냥 외워야 하는 것들…입니다.
다음 세 가지는 공리이므로, 꼭 알아두시는 것이 좋습니다. 그냥 보기에도 굉장히 직관적이고, 받아들이기 어려운 내용은 아닙니다.

Kolmogorov Axioms

1. $\mathbb{P}(A)\ge 0$ (nonnegativity)
2. $\mathbb{P}(\Omega)=1$ (total probability)
3. If $A_1, A_2, …, $ are pairwise disjoint, then $\mathbb{P}(\bigcup_{i=1}^{\infty }A_i)=\sum_{i=1}^{\infty }\mathbb{P}(A_i)$

Explanation

이 세 가지의 Axiom을 하나씩 살펴보면서 이해를 하신 후, 외워두시면 될 것 같습니다.
Axiom 1부터 보겠습니다. event $A$가 있을 때, $A$의 확률은 0 이상임을 의미합니다.
(확률이 음수면… 그거대로 이상하죠? ㅎㅎ..)
Axiom 2는 sample space의 확률이 1임을 의미합니다. sample space는 모든 가능한 outcome들의 집합이므로, $\Omega$의 확률이 1이라는 것을 받아들이는 것에 큰 무리가 있지는 않습니다.
마지막으로 Axiom 3를 살펴보겠습니다. $A_1, A_2, …$가 pairwise disjoint할 때 $\mathbb{P}(\bigcup_{i=1}^{\infty }A_i)=\sum_{i=1}^{\infty }\mathbb{P}(A_i)$를 만족합니다.
이것도 직관적으로 이해가 가능한데요, 모든 event들이 mutually exclusive하기 때문에 event간의 교집합이 존재하지 않습니다. 따라서 각 사건의 확률을 모두 더한 것은 모든 event의 합집합의 확률을 구한 것과 같게 됩니다.

Corollaries

어떠한 공리가 참일 때, 참인 공리로부터 유도될 수 있는 성질들을 Corollary라고 합니다.
위의 Kolmogorov Axioms으로부터 유도할 수 있는 Corollary들을 알아보고, 증명 과정을 살펴보겠습니다.

---

• $\mathbb{P}(\emptyset)=0$

proof:
$\Omega \cup \emptyset = \Omega$이므로, $\mathbb{P}(\Omega\cup \emptyset)=\mathbb{P}(\Omega)$,
\(\Omega\cap \emptyset = \emptyset\)이므로 \(\Omega\)와 \(\emptyset\)은 서로 mutually exclusive
따라서, \(\mathbb{P}(\Omega \cup \emptyset)=\mathbb{P}(\Omega)+\mathbb{P}(\emptyset)=\mathbb{P}(\Omega)\)
$\therefore \mathbb{P}(\emptyset)=0$

---

• $\mathbb{P}(A^c)=1-\mathbb{P}(A)$

proof:
$A\cup A^c=\Omega$이므로, $\mathbb{P}(A\cup A^c)=\mathbb{P}(\Omega)=1$
$A\cap A^c=\emptyset$이므로 $A$와 $\emptyset$은 mutually exclusive
따라서 $\mathbb{P}(A\cup A^c)=\mathbb{P}(A)+\mathbb{P}(A^c)=\mathbb{P}(\Omega)=1$
$\therefore \mathbb{P}(A^c)=1-\mathbb{P}(A)$

---

• $\mathbb{P}(A^c\cap B)=\mathbb{P}(B)-\mathbb{P}(A\cap B)$

proof:
$(A^c\cap B)\cup (A\cap B)=B$이므로,
$\mathbb{P}((A^c\cap B)\cup (A\cap B))=\mathbb{P}(B)$
이때, $(A^c\cap B)\cap (A\cap B)=\emptyset$ (mutually exclusive) 이므로,
$\mathbb{P}((A^c\cap B)\cup (A\cap B))=\mathbb{P}(A^c\cap B)+\mathbb{P}(A\cap B)=\mathbb{P}(B)$
$\therefore \mathbb{P}(A^c\cap B)=\mathbb{P}(B)-\mathbb{P}(A\cap B)$

---

Conclusion

오늘은 Kolmogorov Axioms가 무엇인지와, 이것으로부터 이끌어낼 수 있는 Corollaries를 살펴보고 증명해보았습니다.
아래에 제공된 연습 문제를 꼭 풀어보시길 바랍니다. 이번 글은 여기서 마치겠습니다.

Practice

1. $\mathbb{P}(A\cup B)=\mathbb{P}(A)+\mathbb{P}(B)-\mathbb{P}(A\cap B)$임을 증명하시오.
2. $\mathbb{P}(A\cup B)\le \mathbb{P}(A)+\mathbb{P}(B)$ (Boole’s inequality)를 증명하시오.

Answer

정답 보기