확률변수의 선형함수와 선형조합-확률과 통계(6)

확률변수의 선형함수와 조합

본 포스팅에서는 확률변수의 선형함수(Linear Function)와 선형 조합(Linear Combination)에 대해 다루도록 한다.

좀 더 상세하게는 확률변수의 표준화(Standardization)와 확률변수의 합 그리고 독립적인 확률변수의 평균화역시 다루도록 한다.

확률변수의 선형 함수

만약 각각의 확률변수 X, Y가 다음과 같은 선형적인 연관성(Y=aX+b)을 가지는 경우도 존재한다.

  ○ 이와 같이 함수에 따른 각 변수가 함수형태의 연관성을 가지고 있을 경우 각 변수를 다음과 같이 표현한다.

    ▷ X를 원인변수(Explanatory variable)라 칭한다.

    ▷ Y를 종속변수(Dependent variable)라 칭한다.

두 변수가 선형적인 관계를 가지고 있을 경우 예상값(Expectation)과 분산(Variance)은 다음과 같이 계산될 수 있다. 

다음은 선형 함수의 예상값과 분산의 유도과정을 보여준다.

예상값(Expectation)의 유도과정

분산(Variance)의 유도과정

확률변수의 표준화(Standardization)

확률변수를 표준화 한다는 것은 특정 확률변수를 표준적인 형태로 치환해주는 것을 의미한다.

  ○ 이 내용은 추후 정규분포에서 표준정규분포로 치환할때 유용하게 사용된다.

 

만약 확률변수 X가 μ의 예상치와 σ²의 분산을 가지고, 다음과 같은 관계가 성립할 경우 다음과 같이 표준화될 수 있다.

위와같이 표준화를 수행할 시 Y의 예상치는 0이며, 분산은 1이 된다.

  ○ 이러한 특징은 정규분포를 가지는 확률변수를 표준정규분포로 통일할 수 있게 하므로 분석시 매우 유용하게 사용된다.

 

다음은 예상치가 0이되고 분산이 1이 되는 과정을 설명한다.

 

확률변수의 합

X1과 X2가 둘 다 확률변수일 때 예상치와 분산에 대해 다음과 같은 관계가 성립한다.

만약 확률변수 X1과 X2가 독립적이면, Cov(X1,X2)가 0이므로 다음과 같이 된다.

공분산의 특징

공분산의 특징은 다음과 같다.

이므로

두 확률변수의 합의 예상치와 분산의 유도 과정

다음은 예상치와 분산의 유도과정을 보여준다.

확률변수의 선형 조합

 

확률변수의 선형조합은 위의 내용들을 적용하여 구할 수 있다.

X1,...,Xn이 확률변수의 순서열(Sequence)이고, a1,..,an과 b가 상수라면, 예상치에 대해 다음과 같은 관계가 성립한다.

추가적으로 각 확률변수가 독립적이라면 다음과 같이 분산을 계산할 수 있다.

 

독립적인 확률변수들의 평균화

X1,...,Xn이 서로 독립적인 확률변수의 순서열이고, μ의 예상치와 σ²의 분산을 가지는 경우 다음과 같이 표현할 수 있다.

평균화된 관계 유도

다음은 위의 관계식의 유도과정을 보여주는 과정이다.