마할라노비스 거리

3. 특징

마할라노비스 거리는 변수 간의 상관 관계를 고려하고, 척도 수준에 의존하지 않는다는 점에서 유클리드 거리와 구별된다. 다변량 분석에서 새로운 표본과 기존 표본 간의 유사성을 파악하는 데 유용하다.^[6]

4. 정규 분포와의 관계

정규 분포에서 관측값 $\backslash vec\{x\}$의 확률 밀도는 마할라노비스 거리 $d$에 의해 고유하게 결정된다.^[6]

:$$

\begin{align}

\Pr[\vec x] \,d\vec x & = \frac 1 {\sqrt{\det(2\pi \mathbf{S})}} \exp \left(-\frac{(\vec x - \vec \mu)^\mathsf{T} \mathbf{S}^{-1} (\vec x - \vec \mu)} 2 \right) \,d\vec{x} \\[6pt]

& = \frac{1}{\sqrt{\det(2\pi \mathbf{S})}} \exp\left( -\frac{d^2} 2 \right) \,d\vec x.

\end{align}



여기서 $d^2$는 자유도 $n$ (정규 분포의 차원 수)의 카이제곱 분포를 따른다. 예를 들어, 2차원 정규 분포에서 특정 마할라노비스 거리 $d$가 임계값 $t$보다 작을 확률은 $1\; -\; e^\{-t^2/2\}$이다. 특정 확률 $p$를 얻기 위한 임계값은 2차원의 경우 $t\; =\; \backslash sqrt\{-2\backslash ln(1\; -\; p)\}$로 계산한다. 다른 차원의 경우에는 누적 카이제곱 분포를 참조해야 한다.^[6]

정규 분포에서 마할라노비스 거리가 1보다 작은 영역(거리 1인 타원체 내부 영역)은 확률 분포가 오목인 영역이다.^[6]

마할라노비스 거리는 정규 분포에서 음의 로그 우도의 제곱근에 비례한다(최솟값이 0이 되도록 상수를 더한 후).^[6]

일반적으로 분산 $S=1$ 및 평균 $\backslash mu\; =\; 0$을 갖는 정규(가우시안) 확률 변수 $X$가 주어지면, 다른 모든 정규 확률 변수 $R$(평균 $\backslash mu\_1$ 및 분산 $S\_1$)은 $R\; =\; \backslash mu\_1\; +\; \backslash sqrt\{S\_1\}X$라는 식으로 $X$를 사용하여 정의할 수 있다. 반대로, 임의의 정규 확률 변수에서 정규화된 확률 변수를 복구하기 위해 $X\; =\; (R\; -\; \backslash mu\_1)/\backslash sqrt\{S\_1\}$을 풀 수 있다. 양변을 제곱하고 제곱근을 취하면 다음과 같이 마할라노비스 거리와 매우 유사한 지표에 대한 방정식을 얻는다.^[6]

$$D\; =\; \backslash sqrt\{X^2\}\; =\; \backslash sqrt\{(R\; -\; \backslash mu\_1)^2/S\_1\}\; =\; \backslash sqrt\{(R\; -\; \backslash mu\_1)\; S\_1^\{-1\}\; (R\; -\; \backslash mu\_1)\; \}.$$

결과 크기는 항상 음수가 아니며 데이터의 평균으로부터의 거리에 따라 달라지는데, 이는 데이터에 대한 모델을 정의하려고 할 때 편리한 속성이다.^[6]

5. 레버리지와의 관계

마할라노비스 거리는 레버리지 통계량 $h$와 밀접하게 관련되어 있지만, 다른 척도를 갖는다.

:$D^2\; =\; (N\; -\; 1)\; \backslash left(h\; -\; \backslash tfrac\; 1\; N\; \backslash right).$

다변량 데이터 집합의 무게 중심에서 목표 지점까지의 마할라노비스 거리는 해당 지점의 지렛대비에 $(N-1)$을 곱한 값과 같다 (여기서 $N$은 데이터 집합의 점 개수).

6. 응용

마할라노비스 거리는 클러스터 분석 및 분류 기술에 널리 사용된다. 이는 다변량 통계 검정에 사용되는 호텔링의 T-제곱 분포와 지도 분류에 사용되는 피셔의 선형 판별 분석과 밀접한 관련이 있다.^[12]

마할라노비스 거리와 레버리지는 선형 회귀 모델 개발 등에서 이상치를 탐지하는 데 자주 사용된다. 또한 다변량 이상치를 결정하는 데도 사용된다.

생태 틈새 모델링에도 사용되었는데,^[13][14] 이는 마할라노비스 거리의 볼록 타원 형태가 기본 틈새의 개념과 잘 연결되기 때문이다. 금융 분야에서는 금융 시장의 비정상적인 행동에 대한 통계적 척도인 "난기류 지수"를 계산하는 데 사용된다.^[15]

6. 1. 통계적 분류

6. 2. 이상치 탐지

6. 3. 기타 응용

7. 소프트웨어 구현

R, Python 등 다양한 프로그래밍 언어 및 통계 패키지에서 마할라노비스 거리 계산 기능을 제공한다.

참조

_[1] 학술지 Reprint of: Mahalanobis, P.C. (1936) "On the Generalised Distance in Statistics." https://doi.org/10.1[...] 2018-12-01
_[2] 서적 Journal and Procedings Of The Asiatic Society Of Bengal Vol-xxvi https://archive.org/[...] Asiatic Society Of Bengal Calcutta 1933
_[3] 서적 Anthropological Observations on the Anglo-Indians of Culcutta---Analysis of Male Stature http://archive.org/d[...] 1922
_[4] 학술지 Analysis of race mixture in Bengal https://archive.org/[...] 1927
_[5] 서적 Science And Culture (1935-36) Vol. 1 https://archive.org/[...] Indian Science News Association 1935
_[6] 학술지 The Mahalanobis distance
_[7] 학술지 Multivariate outliers and decompositions of Mahalanobis distance
_[8] 학술지 Optimal Whitening and Decorrelation https://doi.org/10.1[...] 2018-10-02
_[9] 학술지 Minimum covariance determinant https://onlinelibrar[...] 2010
_[10] 학술지 Minimum volume ellipsoid https://onlinelibrar[...] 2009
_[11] 학술지 Mahalanobis distances for ecological niche modelling and outlier detection: implications of sample size, error, and bias for selecting and parameterising a multivariate location and scatter method 2021-05-11
_[12] 서적 Discriminant Analysis and Statistical Pattern Recognition '{{google books |pla[...] John Wiley & Sons 2004-08-04
_[13] 학술지 Mahalanobis distances and ecological niche modelling: correcting a chi-squared probability error 2019-04-02
_[14] 학술지 Assessment of alternative approaches for bioclimatic modeling with special emphasis on the Mahalanobis distance 2003
_[15] 학술지 Skulls, Financial Turbulence, and Risk Management https://www.tandfonl[...] 2019-04-02
_[16] 웹사이트 Portfolio Optimizer https://portfolioopt[...] 2022-04-23
_[17] 문서 Mahalanobis(1936)
_[18] 문서 田口(1999)p.190-200
_[19] 저널 인용 On the generalised distance in statistics http://library.isica[...] 2016-09-27
_[20] 문서 Analysis of race mixture in Bengal