조건부확률, 사후확률, 베이즈정리-확률과 통계(2)

조건부 확률(Conditional Probability)

 

본 포스팅에서는 조건부 확률(Conditional Probability), 사후확률(Posterior Probability), 베이즈 정리(Bayes' Theorem)에 대해 다루도록 한다.

 

조건부 확률(Conditional Probability)

 

조건부확률은 특정 사건이 일어났을 때 연달아 다른 사건이 일어나는 것을 확률로 나타낸 것이다.

사건 A와 B를 예로들면 B가 일어났을때 A가 일어날 확률을 구하는 것이 조건부확률이 된다.

조건부 확률은 다음과 같이 표현될 수 있다.

 

위의 경우에서는 P(B)가 분모로 들어가므로 0보다 커야 한다.

다음과 같은 특수한 상황에 대해서는 각각 제시된 수식이 성립한다.

  ○ 인 경우

  ○ 인 경우

 

일반화된 곱의 법칙(General Multiplication Law)

먼저 사건 A와 B에 대해 다음과 같이 조건부확률을 표현할 수 있다.

사건 A와 B의 교집합 확률은 다음과 같다.

 

사건 A, B, C에 대해 다음과 같은 조건부 확률이 성립한다.

 

사건 교집합들의 확률

위의 개념을 확장시키면 다음과 같이 일련의 사건들에 대해 교집합의 확률을 다음과 같이 계산할 수 있다.

 

독립사건(Independent Events)

두 사건 A, B가 독립적이라면 다음과 같이 조건부 확률은 다음과 같다.

 

따라서 각 사건들이 독립적이라면 다음과 같이 일련의 사건들에 대한 교집합확률은 단순한 각 사건의 확률의 곱이 된다.

 

사후확률(Posterior Probability)과 베이즈 정리(Bayes' Theorem)

 

사후확률(Posterior Probability)은 특정 사건 발생 후에 다른 사건이 발생할 확률을 의미한다.

반대로 사전확률(Prior Probability)은 일이 발생하기 전에 특정 사건이 발생할 확률을 의미한다.

 

사건 A를 사전에 일어날 사건, 사건 B를 사건 A발생 이후 일어날 사건이라고 가정한다면 다음과 같이 사건 B의 확률을 조건부확률으로 표현이 가능하다.

 

총 확률의 법칙(Law of Total Probability)

표본공간 S가 다음과 같이 사건 A들이 서로 독립적이며 배타적으로 구성되어 있다 가정하자. 

그렇다면 다음과 같이 표현이 가능하다.

 

사건 A가 발생한 이후에 사후 사건 B가 발생한다고 가정한다.

각 사건 A들이 서로 배타적인 상황이고 사건 B를 다음과 같이 표현할 수 있는 상황이라 가정한다면,

 

따라서 사건 B의 확률에 대해 다음과 같이 표현이 가능하다.

아래 그림은 위 공식의 이해를 돕기위해 첨부되었다.

 

 

베이즈 정리(Bayes' Theorem)

베이즈정리는 사전 확률과 사후확률 사이의 관계를 나타내는 정리이다.

베이즈정리를 설명하기 위해  위와 같이 표본공간 S가 다음과 같이 서로 배타적인 사건 A들로 구성되어 있다고 가정한다.

사건 B에 대해 사건 A의 사후확률은 다음과 같이 얻어질 수 있다. 

 

베이즈 정리의 증명

사건 B발생에 따른 사건 A의 조건부 확률(사후 확률)은 다음과 같다.

분자의 교집합은 조건부확률에서의 곱의 법칙을, 

그리고 분모에는 총 확률의 법칙을 적용하면 다음과 같다.

이를 정리하면 다음과 같이 표현 가능하다.