베이즈 이론(Bayes' Theorem)

베이즈 이론(Bayes' theorem)은 조건부 확률을 계산하는데 사용되는 이론으로 선행 조건이 주어졌을 때 사후 확률을 추정하는 방법이다. 

베이즈 이론은 다음과 같이 표현될 수 있다.  
*발생한 증거 B를 토대로 가설 A가 발생했을 확률 계산하기

P(A|B) = P(B|A)P(A) / P(B)

여기서 P(A|B)는 B가 주어졌을 때 A의 확률, P(B|A)는 A가 주어졌을 때 B의 확률, P(A)는 A의 사전 확률(prior probability), P(B)는 B의 주변 확률(marginal probability)이다.

베이즈 이론은 이전에 알려진 정보(사전 확률)를 이용하여 새로운 정보(새로운 데이터)를 갱신하는데 사용된다.

 

예를 들어, 어떤 병에 걸릴 확률이 1%인데, 이 병에 걸린 사람들 중 80%가 양성반응을 보이는 검사를 받았다면 양성반응을 보인 사람이 이 병에 걸렸을 확률은 얼마일까?

이때, P(A)는 병에 걸릴 사전 확률인 1%, P(B|A)는 병에 걸린 사람이 양성반응을 보일 확률인 80%, P(B)는 양성반응을 보일 주변 확률인 1% x 80% + 99% x 5% = 5.75%입니다. 따라서, 베이즈 이론을 이용하면 양성반응을 보인 사람이 이 병에 걸렸을 확률은 P(A|B) = P(B|A)P(A) / P(B) = 0.8 x 0.01 / 0.0575 = 0.1391로 계산된다. 즉, 양성반응을 보인 사람들 중 병에 걸렸을 확률은 13.9%이다.

베이즈 이론은 머신 러닝, 통계학, 인공지능, 생물학, 경제학 등 다양한 분야에서 응용되고 있다. 특히, 베이즈 추정(bayesian estimation)은 모수적 추정 방법으로 많이 사용되며, 베이즈 네트워크(bayesian network)는 인과관계 모델링에 활용된다.