확률은 직관적인 의미를 가지지만, 계산 규칙을 일관되게 사용하려면 출발점이 필요하다. Kolmogorov 공리는 확률측도 가 반드시 만족해야 하는 최소 조건이다. 나머지 확률 공식 대부분은 이 세 공리에서 유도된다.
세 가지 공리
표본공간을 , 사건족을 라고 하자. 확률측도는 다음과 같은 함수이다.
1. 음이 아닌 값
모든 사건 에 대해 확률은 음수가 아니다.
2. 전체 확률은 1
가능한 모든 결과를 포함하는 표본공간의 확률은 1이다.
3. 가산가법성
서로 겹치지 않는 사건 에 대해, 합집합의 확률은 각 확률의 합과 같다.
여기서 사건들이 서로 겹치지 않는다는 조건은
를 뜻한다. 이 조건이 없으면 같은 결과가 여러 번 계산될 수 있다.
공집합의 확률
와 은 서로 겹치지 않고, 둘의 합집합은 다시 이다.
가산가법성을 적용하면
이므로
을 얻는다.
여사건 공식
사건 와 여사건 는 서로 겹치지 않고 합치면 표본공간 전체가 된다.
따라서
이다.
단조성
라면 는 다음과 같이 겹치지 않는 두 부분으로 나뉜다.
그러므로
이다. 즉, 더 큰 사건의 확률은 더 작은 사건의 확률보다 작을 수 없다.
차집합과 합집합
인 경우에는
이다. 일반적인 두 사건에 대해서는 포함배제 원리를 사용한다.
교집합의 확률은 음이 아니므로 다음 상계도 얻는다.
이를 union bound 또는 Boole 부등식이라고 한다. 많은 사건에 대해서도 같은 방식으로 확장된다.
정리
Kolmogorov 공리는 음이 아닌 값, 전체 확률 1, 가산가법성의 세 조건이다. 공집합의 확률, 여사건 공식, 단조성, 포함배제 원리와 union bound는 별도의 가정이 아니라 이 공리에서 유도되는 결과이다.
연습 문제
- Kolmogorov 공리만 이용해 포함배제 원리를 증명한다.
- 에 대한 union bound를 수학적 귀납법으로 증명한다.
- 일 때 임을 보인다.
풀이
1번
를 서로 겹치지 않는 두 사건으로 나누면
이다. 가산가법성에 의해
이다. 한편
이므로
이다. 이를 대입하면
를 얻는다.
2번
일 때 포함배제 원리에서
이므로 성립한다. 에서 성립한다고 가정하면
따라서 수학적 귀납법에 의해 모든 자연수 에 대해 union bound가 성립한다.
3번
이면
이다. 두 사건은 서로 겹치지 않으므로
이고, 정리하면
이다.