두 Random Variable을 동시에 변환하면 새로운 좌표계에서 Joint Distribution을 다시 구해야 한다. 이산형에서는 같은 결과로 이어지는 원상의 확률을 합하고, 연속형에서는 넓이의 변화를 Jacobian으로 보정한다.

이산 이변량 Transformation

다음처럼 새로운 Random Variable을 정의하자.

특정 의 원상(preimage)은 변환 전 값 중에서 와 를 동시에 만족하는 모든 이다. Joint PMF는 그 원상에 있는 확률을 모두 합해 구한다.

변환이 일대일이면 각 에 대응하는 가 하나뿐이므로 역함수 , 를 바로 대입할 수 있다.

Poisson 합 예시

와 가 독립이라고 하자. 의 PMF는 가능한 모든 분할을 더해 구한다.

따라서

이다.

연속 이변량 Transformation

연속형에서는 한 점의 확률이 아니라 작은 영역의 확률이 보존되어야 한다. 변환이 일대일이고 역함수가

라고 하자. 그러면 새로운 Joint PDF는

이다.

여기서 Jacobian은 좌표 변환에 따라 작은 넓이가 얼마나 변하는지를 나타내는 행렬이다.

그 determinant의 절댓값이 밀도 보정계수이다. 부호는 방향의 반전을 나타내지만, 확률의 넓이는 음수가 될 수 없으므로 절댓값을 사용한다.

선형 변환 예시

가 서로 독립인 표준정규 Random Variable이고

라고 하자. 역변환은

이다. 역변환의 Jacobian determinant 절댓값은

이다. 또한

이므로

를 얻는다. 이 식은

처럼 두 Marginal PDF의 곱으로 분해된다. 따라서

이며 와 는 독립이다.

변환 문제의 순서

  1. 새로운 변수와 역변환을 구한다.
  2. 원래 지지집합이 새로운 좌표에서 어떤 영역이 되는지 구한다.
  3. 이산형이면 각 원상의 확률을 합한다.
  4. 연속형이면 원래 Joint PDF에 역변환을 대입한다.
  5. 역변환 Jacobian determinant의 절댓값을 곱한다.
  6. 결과를 전체 지지집합에서 적분해 1이 되는지 확인한다.

정리

다변량 Transformation은 식의 대입만으로 끝나지 않는다. 이산형에서는 원상을 빠짐없이 합해야 하고, 연속형에서는 지지집합과 Jacobian을 함께 추적해야 한다. Jacobian은 좌표 변환으로 바뀐 넓이를 보정해 확률을 보존한다.

연습 문제

  1. 서로 독립인 , 에 대해 , 의 Joint PDF를 구한다.
  2. 서로 독립인 Poisson Random Variable 에 대해 , 의 Joint PMF를 구한다.
  3. , 의 역변환과 Jacobian을 구한다.

풀이

1번

문제를 명확히 하기 위해 서로 독립인

를 가정한다. 두 변수는 같은 rate 를 가진다. 변환은

이고 역변환은

이다. 지지집합은 이고 Jacobian determinant의 절댓값은

이다. 따라서

이다. 이를 Gamma PDF와 Beta PDF의 곱으로 쓰면

이므로 , 이며 두 변수는 독립이다.

2번

, 가 독립이라고 하자. , 이면 역변환은

이다. 가능한 범위는 와 이다. 따라서

이다.

3번

을 가정한다. , 에서

이므로 역변환은

이다. Jacobian은

이다. 와 가 양수가 아니라면 부호에 따라 역변환의 가지를 추가로 나누어야 한다.