베이즈 규칙

베이즈 규칙

베이즈 규칙(Bayes' Rule 또는 Bayes' Theorem)은 사전 확률(prior) \(P(A)\)와 조건부 우도 \(P(B|A)\)로부터 사후 확률(posterior) \(P(A|B)\)를 계산하는 확률론의 핵심 정리이다.

핵심

• 사후 확률 = (우도 × 사전 확률) / 증거(evidence)
• 머신러닝에서 생성 모델(GDA, 나이브 베이즈)의 이론적 기반이다
• 베이즈 추론에서는 관측 데이터로 사전 믿음을 업데이트한다
• 최대 사후 추정(MAP): \(\arg\max_\theta P(\theta|X) = \arg\max_\theta P(X|\theta)P(\theta)\)
• 분류에서 \(P(y|x) \propto P(x|y)P(y)\)로 클래스 사후 확률을 계산한다

수식

\[P(A|B) = \frac{P(B|A)P(A)}{P(B)}\]