정규분포의 선형조합과 근사분포 중심극한정리-확률과 통계(15)

정규분포의 선형조합과 근사분포 중심극한정리

본 포스팅에서는 정규분포의 선형조합과 정규분포를 이용한 근사분포, 중심극한정리 등을 다둬보도록 한다.

 

정규분포의 선형조합

 

정규분포의 특징 중 하나는 선형조합이 가능하다는 것이다. 

  ○ 정규분포의 선형조합은 예상치와 분산의 합 또는 곱으로 표현이 가능하다.

  ○ 아래는 정규분포의 선형조합의 가장 단순한 형태인 aX+b의 조합을 보여준다.

    ▷ 아래 조합에서 a=1/σ, b=-μ/σ라 둔다면 표준정규분포와 같아지므로 참고하자.

  ○ 정규분포를 따르는 두 독립적인 확률변수들 X1, X2에 대해 다음과 같이 표현이 가능하다.

    ▷ 독립적이지 않다면 다음과 같이 표현할 수 없으므로 주의가 필요하다.

  ○ 위의 성질들을 확장하여 다수의 확률변수들의 선형조합을 표현하면 다음과 같다.

  ○ 좀 특별한 경우로 독립적이며 동일한 형태로 분포한(iid, independent identically distributed) 정규분포의 평균 조합의 경우 다음과 같이 표현할 수 있다.

    ▷ 바로 위 식에서 인 경우이다. 

    ▷ 평균화를하면서 분산의 크기가 작아진다는 것을 참고하자. 

정규분포를 이용한 근사 분포

 

정규분포의 매우 유용한 특징 중 하나는 다른 분포들을 정규분포로 근사화할 수 있다는 점이다.

  ○ 분석하기에 복잡한 분포를 가지는 경우 정규분포로 근사화할 수 있다면 쉽게 평가가 가능해진다.

  ○ 아래에 설명할 중심극한정리(Central Limit Theorem)는 정규분포가 적절히 근사화할 수 있음을 보여준다.

정규분포로 근사화시킬 수 있는 대표적인 분포로 이항분포(Binomial Distribution)가 존재한다.

  ○ 물론 n이 충분히 커야한다.

     ▷ 대략적인 기준은 np≥5, n(1-p)≥5이다.

  ○ 이항분포는 조건이 만족되면 아래와 같이 정규분포로 근사화를 수행할 수 있다.

 

  ○ 더욱이 정규분포로 근사화 할 수 있다는 것은 다음과 같이 표준정규분포로도 표현이 가능함을 보여준다.

중심극한정리(Central Limit Theorem)

중심극한정리는 독립적이며 동일한 형태로 분포한(iid, independent identically distributed) 확률변수들의 평균의 분포는 정규분포를 따른다는 정리이다.

  ○ 이때 확률변수의 개수 n는 충분히 커야한다.

중심극한정리는 확률이론과 수학 전체에서 가장 중요한 정리 중 하나로 여겨진다.

  ○ 이는 정규분포는 많고 더 작은 확률 사건의 합으로 구성되어있다고 고려되기 때문이다.

  ○ 이 정리는 개별적인 표본 관측값의 실제 분포와 관계없이 표본평균은 정규분포를 따른다고 나타낸다.

 중심극한정리를 수학적 기호로 표현하면 다음과 같이 표현할 수 있다.

: 는 독립적이며 동일한 확률분포 D(평균 μ, 분산 σ²)를 따름을 의미한다.