가우시안 판별 분석

가우시안 판별 분석

가우시안 판별 분석(Gaussian Discriminant Analysis, GDA)은 각 클래스 \(y\)에 대한 조건부 분포 \(p(x|y)\)를 다변량 가우시안으로 모델링하고, 베이즈 규칙으로 클래스 사후 확률을 계산하는 생성 분류 모델이다.

핵심

• 클래스 조건부 분포를 모델링하는 생성 모델(generative model)이다
• 선형 판별 분석(LDA): 클래스별로 공분산 행렬을 공유 (\(\Sigma\) 동일), 선형 결정 경계
• 이차 판별 분석(QDA): 클래스별로 다른 공분산 행렬 사용, 이차 결정 경계
• 데이터 분포가 가우시안에 가까울 때 로지스틱 회귀보다 샘플 효율이 높다
• MLE로 \(\phi\), \(\mu_0\), \(\mu_1\), \(\Sigma\)를 닫힌 형태로 추정한다