기하학적 마진

기하학적 마진

기하학적 마진(Geometric Margin)은 SVM에서 데이터 포인트 \((x^{(i)}, y^{(i)})\)와 결정 초평면 사이의 실제 유클리드 거리이다. 함수적 마진을 \(\|w\|\)로 나눈 값으로, 스케일에 불변이다.

핵심

• \(\gamma^{(i)} = y^{(i)}\left(\left(\frac{w}{\|w\|}\right)^T x^{(i)} + \frac{b}{\|w\|}\right)\)로 정의된다
• 함수적 마진과 달리 \(w\)의 스케일에 영향을 받지 않는 정규화된 거리이다
• SVM은 데이터셋의 기하학적 마진 \(\gamma = \min_i \gamma^{(i)}\)을 최대화한다
• 기하학적 마진을 최대화하는 것은 \(\min_w \|w\|^2\)을 최소화하는 것과 동치이다
• 서포트 벡터는 기하학적 마진이 정확히 \(\gamma\)인 포인트들이다

수식

\[\gamma^{(i)} = y^{(i)}\frac{w^T x^{(i)} + b}{\|w\|}\]