Distribution 전체의 특징을 몇 개의 수치로 요약할 때 가장 먼저 사용하는 값이 Expectation과 Variance이다. Expectation은 확률질량의 균형점에 해당하고, Variance는 값들이 그 중심에서 얼마나 퍼져 있는지를 나타낸다.

Expectation

Expectation은 가능한 값에 그 값이 나타날 확률을 가중치로 곱해 평균을 낸 값이다. 이산형과 연속형에서 각각 다음과 같이 정의한다.

함수 의 Expectation은 Distribution을 먼저 구하지 않고도 다음처럼 계산할 수 있다.

이를 LOTUS(Law of the Unconscious Statistician)라고 부른다.

Expectation의 선형성

상수 와 Random Variable 에 대해

가 성립한다. 이 성질에는 와 의 독립성이 필요하지 않다.

특히 지시함수 를 사용하면 사건의 확률을 Expectation으로 표현할 수 있다.

이 성질은 개수의 평균을 계산할 때 유용하다.

Variance

Variance는 가 평균에서 벗어난 정도의 제곱을 평균 낸 값이다.

계산할 때는 다음 형태가 더 편리하다.

제곱을 사용하므로 평균보다 큰 편차와 작은 편차가 서로 상쇄되지 않는다. 다만 단위도 원래 단위의 제곱이 된다.

Standard Deviation

Standard Deviation은 Variance의 제곱근이다.

원래 자료와 같은 단위를 가지므로 퍼짐의 크기를 해석하기 쉽다.

선형 변환의 영향

라고 하자. 그러면

이고

이다. 상수 는 Distribution의 위치만 이동시키므로 Variance를 바꾸지 않는다. 반면 는 값의 간격을 배로 바꾸므로 Variance를 배로 바꾼다.

독립인 합의 Variance

두 Random Variable이 독립이면

이다. 일반적인 경우에는 공분산 항이 추가된다.

정리

Expectation은 Distribution의 중심을, Variance와 Standard Deviation은 퍼짐을 나타낸다. Expectation은 항상 선형이지만, Variance의 합 공식은 공분산 또는 독립성 조건을 함께 확인해야 한다.

연습 문제

  1. 공정한 주사위 눈 의 Expectation과 Variance를 구한다.
  2. 일 때 와 를 의 값으로 표현한다.
  3. 지시함수의 Expectation이 사건의 확률과 같음을 정의에서 증명한다.

풀이

1번

공정한 주사위에서 는 1부터 6까지를 각각 확률 로 가진다.

또한

이므로

이다.

2번

Expectation의 선형성과 Variance의 성질을 사용하면

이고

이다. 상수의 덧셈은 Variance에 영향을 주지 않는다.

3번

사건 의 지시함수는 가 일어나면 1, 그렇지 않으면 0이다. 따라서

즉 사건의 확률은 해당 지시함수의 Expectation과 같다.