베이즈 정리 (Bayes Theorem)

베이즈 정리

두 확률 변수의 사전 확률과 사후 확률 사이의 관계를 나타내는 정리.

사전 확률(Prior probability) : 특정 사상이 일어나기 전의 확률. 관측자가 관측하기 전에 가지고 있는 확률 분포.

사후 확률(Posterior probability) : 어떤 사건이나 조건이 관측된 이후에, 어떤 가설이나 사건이 참일 확률.

 

정의

$$Pr(A|B)=\frac{Pr(B|A)Pr(A)}{Pr(B)}$$

 

각 항은 다음과 같은 의미를 갖는다.

• $Pr(A)$ : A의 사전 확률, 아직 사건 B에 관한 어떠한 정보도 알지 못함.
• $Pr(A|B)$ : B의 값이 주어진 경우에 대한 A의 사후 확률.
• $Pr(B|A)$ : A가 주어졌을 때 B의 조건부 확률. (likelihood)
• $Pr(B)$ : B의 사전확률.

이때, A는 불확실성을 계산해야 하는 대상, B는 관측하여 값을 알아낼 수 있는 대상.

A의 확률은 B가 관측된 후 P(A)에서 P(A|B)로 변화하며, 베이즈 정리는 이때의 변화를 계산하는 방법을 제공한다.