최대 사후 확률

3. 설명

어떤 모수 $\backslash theta$의 사전 확률 분포가 $p(\backslash theta)$로 주어져 있고, 그 모수에 기반한 조건부 확률분포 $f(x|\backslash theta)$와 그 분포에서 수집된 값 $x$가 주어져 있다고 가정한다. 이때 모수의 사후 확률분포는 베이즈 정리에 의해 다음과 같이 계산할 수 있다.^[1]

:$p(\backslash theta|x)\; =\; \backslash frac\{f(x|\backslash theta)p(\backslash theta)\}\{\backslash displaystyle\backslash int\; f(x|\backslash theta\text{'})p(\backslash theta\text{'})\; d\backslash theta\text{'}\}$

여기에서 $x$가 주어져 있기 때문에 분모는 $\backslash theta$에 대해 상수가 된다. 최대 사후 확률 모수는 다음과 같이 정의된다.^[1]

:$\backslash hat\{\backslash theta\}\_\{\backslash mathrm\{MAP\}\}\; :=\; \backslash underset\{\backslash theta\}\backslash operatorname\{arg\backslash ,max\}\; \backslash \; \backslash frac\{f(x|\backslash theta)\; p(\backslash theta)\}\; \{\backslash displaystyle\backslash int\; f(x\; |\; \backslash theta\text{'})\; p(\backslash theta\text{'})\; \backslash ,\; d\backslash theta\text{'}\}\; =\; \backslash underset\{\backslash theta\}\backslash operatorname\{arg\backslash ,max\}\; \backslash \; f(x\; |\; \backslash theta)\; p(\backslash theta)$

최대우도의 정의 $\backslash hat\{\backslash theta\}\_\{\backslash mathrm\{ML\}\}\; :=\; \backslash underset\{\backslash theta\}\backslash operatorname\{arg\backslash ,max\}\; f(x|\backslash theta)$와 비교해보면, 최대 사후 확률은 사전 확률 $p(\backslash theta)$가 추가되었다는 것을 볼 수 있다.^[1]

$x$의 관측을 기반으로 미지의 모집단 파라미터 $\backslash theta$를 추정하려 할 때, $x$의 표본 분포를 $f$라고 하면, 모집단 파라미터를 $\backslash theta$로 했을 때 $x$의 확률은 $f(x|\backslash theta)$가 된다. 그러면

:$\backslash theta\; \backslash mapsto\; f(x\; |\; \backslash theta)\; \backslash !$

라는 함수는 우도 함수이며,

:$\backslash hat\{\backslash theta\}\_\{\backslash mathrm\{ML\}\}(x)\; =\; \backslash mathop\{\backslash mathrm\{arg~max\}\}\_\backslash theta\; f(x\; |\; \backslash theta)\; \backslash !$

는 $\backslash theta$의 최대 우도 추정이다.^[1]

여기서, $\backslash theta$의 사전 분포를 $g$라고 하고, $\backslash theta$를 베이즈 추정에서의 확률 변수로 취급하면, $\backslash theta$의 사후 확률은 베이즈 정리를 통해 다음과 같이 구할 수 있다.^[1]

:$\backslash theta\; \backslash mapsto\; \backslash frac\{f(x\; |\; \backslash theta)\; \backslash ,\; g(\backslash theta)\}\{\backslash displaystyle\backslash int\_\{\backslash Theta\}\; f(x\; |\; \backslash theta\text{'})\; \backslash ,\; g(\backslash theta\text{'})\; \backslash ,\; d\backslash theta\text{'}\}\; \backslash !$

여기서 $g$는 $\backslash theta$의 밀도 함수, $\backslash Theta$는 $g$의 정의역이다.^[1]

최대 사후 확률 추정 방법에서는, $\backslash theta$를 이 확률 변수의 사후 분포의 최빈값으로 추정한다.^[1]

:$\backslash hat\{\backslash theta\}\_\{\backslash mathrm\{MAP\}\}(x)$

= \mathop{\mathrm{arg~max}}_\theta \frac{f(x | \theta) \, g(\theta)}

{\displaystyle\int_{\Theta} f(x | \theta') \, g(\theta') \, d\theta'}

= \mathop{\mathrm{arg~max}}_\theta f(x | \theta) \, g(\theta)



사후 분포의 분모는 $\backslash theta$에 의존하지 않으므로, 최적화에 아무런 역할도 하지 않는다. $\backslash theta$의 MAP 추정에서 사전 분포 $g$가 균등 분포인 경우의 결과는 최대 우도 추정에 일치한다. MAP 추정은 균등 손실 함수에서의 베이즈 추정 함수이다.^[1]

4. 계산

최대 사후 확률(MAP) 추정은 해석적 방법과 수치적 방법으로 계산할 수 있다.

• 해석적 방법: 사후 밀도의 최빈값이 폐쇄 형식으로 주어질 때 사용하며, 주로 켤레 사전 확률이 사용되는 경우이다.
• 수치적 방법:
• 켤레 기울기 방법이나 뉴턴 방법과 같은 수치적 최적화 방법을 사용한다. 이 방법들은 일반적으로 1차 또는 2차 도함수를 필요로 하며, 분석적 또는 수치적으로 평가해야 한다.
• EM 알고리즘을 수정하여 사용한다. 이 방법은 사후 밀도의 도함수를 필요로 하지 않는다.
• 모의 담금질을 이용한 몬테카를로 방법을 사용한다.

4. 1. 해석적 방법

4. 2. 수치적 방법

• 해석적 방법: 사후 밀도의 최빈값이 폐쇄 형식으로 주어질 때 사용한다. 주로 켤레 사전 확률이 사용되는 경우이다.
• 수치적 방법:
• 켤레 기울기 방법이나 뉴턴 방법과 같은 수치적 최적화 방법을 사용한다. 이 방법들은 일반적으로 1차 또는 2차 도함수를 필요로 하며, 분석적 또는 수치적으로 평가해야 한다.
• EM 알고리즘을 수정하여 사용한다. 이 방법은 사후 밀도의 도함수를 필요로 하지 않는다.
• 모의 담금질을 이용한 몬테카를로 방법을 사용한다.

4. 2. 1. 켤레 기울기 방법

4. 2. 2. 뉴턴 방법

4. 2. 3. 기대값 최대화 알고리즘 (EM 알고리즘)

5. 한계

MAP 추정은 베이즈 추정의 극한적인 경우에 해당하지만,^[1] 일반적으로 베이즈 방법론을 대표하지는 않는다. MAP 추정은 점 추정치이고, 기준 척도의 임의적인 선택에 의존하는 반면, 베이즈 방법은 분포를 사용하여 데이터를 요약하고 추론을 도출하기 때문이다. 베이즈 방법은 사후 평균 또는 중앙값을 신뢰 구간과 함께 보고하는 경향이 있다. 이러한 추정기는 제곱 오차와 선형 오차 손실 하에서 각각 최적이며, 연속적인 사후 분포의 경우 MAP가 최적의 점 추정치임을 시사하는 손실 함수가 없다. 또한, 사후 밀도는 종종 간단한 분석적 형식을 갖지 못하여, 마르코프 연쇄 몬테카를로 기법을 사용해야 할 수 있지만, 최빈값을 찾기 위한 최적화는 어렵거나 불가능할 수 있다.

6. 정규 분포에서의 예

$(x\_1,\; \backslash dots,\; x\_n)$의 독립 동일 분포 $N(\backslash mu,\backslash sigma\_v^2\; )$ 확률 변수 시퀀스와 $\backslash mu$의 사전 분포가 $N(\backslash mu\_0,\backslash sigma\_m^2\; )$로 주어졌다고 가정한다. 이때, $\backslash mu$의 최대 사후 확률(MAP) 추정값을 구하는 과정은 다음과 같다. 정규 분포는 자체 켤레 사전 분포이므로, 폐쇄형 해를 분석적으로 찾을 수 있다.

최대화할 함수는 다음과 같다.^[3]

:$g(\backslash mu)\; f(x\; \backslash mid\; \backslash mu)=\backslash pi(\backslash mu)\; L(\backslash mu)\; =\; \backslash frac\{1\}\{\backslash sqrt\{2\; \backslash pi\}\; \backslash sigma\_m\}\; \backslash exp\backslash left(-\backslash frac\{1\}\{2\}\; \backslash left(\backslash frac\{\backslash mu-\backslash mu\_0\}\{\backslash sigma\_m\}\backslash right)^2\backslash right)\; \backslash prod\_\{j=1\}^n\; \backslash frac\{1\}\{\backslash sqrt\{2\; \backslash pi\}\; \backslash sigma\_v\}\; \backslash exp\backslash left(-\backslash frac\{1\}\{2\}\; \backslash left(\backslash frac\{x\_j\; -\; \backslash mu\}\{\backslash sigma\_v\}\backslash right)^2\backslash right),$

이는 $\backslash mu$의 다음 함수를 최소화하는 것과 같다.

:$\backslash sum\_\{j=1\}^n\; \backslash left(\backslash frac\{x\_j\; -\; \backslash mu\}\{\backslash sigma\_v\}\backslash right)^2\; +\; \backslash left(\backslash frac\{\backslash mu-\backslash mu\_0\}\{\backslash sigma\_m\}\backslash right)^2.$

따라서, μ에 대한 MAP 추정량은 다음과 같다.^[3]

:$\backslash hat\{\backslash mu\}\_\backslash mathrm\{MAP\}\; =\; \backslash frac\{\backslash sigma\_m^2\backslash ,n\}\{\backslash sigma\_m^2\; \backslash ,n+\; \backslash sigma\_v^2\; \}\; \backslash left(\backslash frac\{1\}\{n\}\; \backslash sum\_\{j=1\}^n\; x\_j\; \backslash right)\; +\; \backslash frac\{\backslash sigma\_v^2\}\{\backslash sigma\_m^2\; \backslash ,n+\; \backslash sigma\_v^2\; \}\; \backslash ,\backslash mu\_0$

=\frac{\sigma_m^2\left(\sum_{j=1}^n x_j\right) + \sigma_v^2 \,\mu_0}{\sigma_m^2\,n + \sigma_v^2 }.

이는 사전 평균과 표본 평균 사이의 선형 보간법이며, 각 분산으로 가중치가 부여된다.

$\backslash sigma\_m\; \backslash to\; \backslash infty$의 경우를 비정보적 사전 분포라고 하며, 이는 부적절한 확률 분포로 이어진다. 이 경우 $\backslash hat\{\backslash mu\}\_\backslash mathrm\{MAP\}\; \backslash to\; \backslash hat\{\backslash mu\}\_\backslash mathrm\{MLE\}.$

참조

_[1] 논문 Maximum a posteriori estimators as a limit of Bayes estimators 2018-01-30
_[2] 서적 Machine learning : a probabilistic perspective MIT Press 2012
_[3] 서적 Essentials of Statistical Inference https://www.cambridg[...] Cambridge University Press 2005