확률의 공리

1. 개요

확률의 공리는 확률 이론의 기초를 다지는 일련의 규칙으로, 확률 공간을 정의하고 확률 측도의 성질을 규정한다. 확률의 공리는 안드레이 콜모고로프에 의해 정립되었으며, 비음성, 정규화, 가산 가법성의 세 가지 공리로 구성된다. 이러한 공리들을 통해 공집합의 확률, 여사건의 확률, 포함-배제 원리, 확률의 덧셈 정리 등 다양한 확률 관련 성질들을 유도할 수 있다. 확률의 공리는 표본 공간, 사건 공간, 확률 측도로 구성된 확률 공간을 정의하며, 동전 던지기와 같은 간단한 예시를 통해 이해를 돕는다.

2. 콜모고로프 공리

콜모고로프 공리는 현대 확률론의 수학적 기초를 제공하는 세 가지 공리이다. 이 공리들은 확률을 측정 가능한 공간에서 정의된 함수로 규정하며, 확률이 가져야 할 기본적인 성질들을 명시한다.

콜모고로프(Андрей Николаевич Колмогоров)는 확률 공간을 정의하기 위해 다음과 같은 공리계를 제시했다.

확률 공간 $(\backslash Omega,\; \backslash mathfrak\{F\},\; P)$는 다음과 같이 정의된다.

* $\backslash Omega$는 근원사건의 집합이다.
* $\backslash mathfrak\{F\}$는 $\backslash Omega$의 부분 집합으로 구성된 족(family)이며, 사건이라고 불린다.
* $P$는 $\backslash mathfrak\{F\}$ 상의 집합 함수이다.

이때, 다음의 5가지 공리를 만족해야 한다.

1. $\backslash mathfrak\{F\}$는 유한 개의 요소에 의한 합집합, 차집합, 교집합에 대해 닫혀 있다.
2. $\backslash mathfrak\{F\}$는 $\backslash Omega$를 포함한다. 즉, $\backslash Omega\; \backslash in\; \backslash mathfrak\{F\}$.
3. $P$는 비음의 실수 값을 취한다. 즉, $P:\backslash mathfrak\{F\}\; \backslash rightarrow\; \backslash mathbb\{R\}\_\{\backslash geq\; 0\}$
4. $P(\backslash Omega)\; =\; 1.$
5. $A,\; B\; \backslash in\; \backslash mathfrak\{F\}$가 상호 배타적인 집합(Disjoint sets)이라면, $P(A\; \backslash cup\; B)\; =P(A)\; +\; P(B)$이다. (유한 가법성)

$\backslash Omega$가 무한 집합일 경우에는 다음의 연속성 공리가 추가된다.

6. $\backslash mathfrak\{F\}$의 감소열 $A\_1\; \backslash supset\; A\_2\; \backslash supset\; A\_3\; \backslash supset\; \backslash cdots$가, $\backslash textstyle\backslash bigcap\backslash limits\_\{n=1\}^\backslash infty\; A\_n\; =\backslash emptyset$를 만족한다면, $\backslash lim\_\{n\backslash to\backslash infty\}\; P(A\_n)\; =0.$

공리 5와 6으로부터 일반화 가법 정리(완전 가법성)가 유도된다.

일반화 가법 정리: 집합열 $\backslash \{\; A\_n\; \backslash \}\_\{n\backslash in\; \backslash mathbb\{N\}\}$가 상호 배타적이며, $\backslash textstyle\backslash bigcup\backslash limits\_\{n=1\}^\{\backslash infty\}\; A\_n\; \backslash in\; \backslash mathfrak\{F\}$라면,
::$P\backslash bigl(\; \backslash textstyle\backslash bigcup\backslash limits\_\{i=1\}^\backslash infty\; A\_i\; \backslash bigr)\; =\; \backslash sum\backslash limits\_\{i=1\}^\backslash infty\; P(A\_i).$

일반화 가법 정리를 만족하는 $P$는 $\backslash mathfrak\{F\}$가 생성하는 완전 가법족(σ-대수) 상의 비음이며 완전 가법적인 집합 함수로 유일하게 확장 가능하다.

현대에는 이 논의를 바탕으로 확률 측도의 세 가지 조건을 다음과 같이 요약한다.

: $\backslash Omega$는 임의의 집합, $\backslash mathfrak\{F\}$는 $\backslash Omega$ 위의 완전 가법족 (σ-집합체) (또는 유한 가법족), $P$는 $\backslash mathfrak\{F\}$ 위의 집합 함수이다. $P$가 다음 3가지 조건을 만족할 때(하위 섹션 참조), $P$는 $(\backslash Omega,\; \backslash mathfrak\{F\})$ 위의 확률 측도가 되며, $\backslash Omega$는 표본 공간, $\backslash mathfrak\{F\}$는 사상 공간이라고 불린다.

2.1. 제1공리 (비음성)

모든 사건의 확률은 음수가 아닌 실수이다.
:$P(E)\backslash in\backslash mathbb\{R\},\; P(E)\backslash geq\; 0\; \backslash qquad\; \backslash forall\; E\; \backslash in\; F$ ($F$는 사건 공간)

이에 따라 $P(E)$는 일반 측도론에서 다루는 일부 대상과는 달리 반드시 유한해야 한다. 음의 확률을 할당하는 이론은 이 공리를 완화한다.

2.2. 제2공리 (정규화)

전체 표본 공간의 확률(적어도 하나의 근원사건이 발생할 확률)은 1이다.

:$P(\backslash Omega)\; =\; 1.$

이는 단위 측도의 가정으로, 전체 표본 공간에서 적어도 하나의 기본 사건이 발생할 확률은 1이라는 것이다.

예를 들어, 선거에서 모든 후보의 득표율을 합하면 100%가 되고, 여론조사에서 모든 응답의 비율을 합해도 100%가 되는 것과 같다.

2.3. 제3공리 (가산 가법성)

시그마 가법성에 관한 공리이다.

서로소 집합(상호 배타적인 사건들)의 가산 열 $E\_1,\; E\_2,\; \backslash ldots$은 항상 다음을 만족한다.
::$P\backslash left(\backslash bigcup\_\{i\; =\; 1\}^\backslash infty\; E\_i\backslash right)\; =\; \backslash sum\_\{i=1\}^\backslash infty\; P(E\_i).$

이는 σ-가산성의 가정이다. 가산 수열의 상호 배타적 사건 (상호 배타적 사건과 같음) $E\_1,\; E\_2,\; \backslash ldots$는 다음을 만족한다.
::$P\backslash left(\backslash bigcup\_\{i\; =\; 1\}^\backslash infty\; E\_i\backslash right)\; =\; \backslash sum\_\{i=1\}^\backslash infty\; P(E\_i).$

현대에는 다음과 같이 요약한다.

$\backslash Omega$는 임의의 집합, $\backslash mathfrak\{F\}$는 $\backslash Omega$ 위의 완전 가법족 (σ-집합체) (또는 유한 가법족), $P$는 $\backslash mathfrak\{F\}$ 위의 집합 함수이다. $P$가 다음 3가지 조건을 만족할 때, $P$는 $(\backslash Omega,\; \backslash mathfrak\{F\})$ 위의 확률 측도가 되며, $\backslash Omega$는 표본 공간, $\backslash mathfrak\{F\}$는 사상 공간이라고 불린다.

σ-가법성의 가정에서 상호 배타적인 집합 (Disjoint sets)의 임의의 가산개의 열 (Mutual exclusivity^영어와 동의어) $E\_1,\; E\_2,\; \backslash cdots\; \backslash in\; \backslash mathfrak\{F\}$는 다음을 만족한다.
::$P\; \backslash Bigl(\; \backslash textstyle\backslash bigcup\backslash limits\_\{i=1\}^\backslash infty\; E\_i\; \backslash Big)\; =\; \backslash sum\backslash limits\_\{i=1\}^\backslash infty\; P(E\_i).$

3. 공리로부터 유도되는 성질

콜모고로프의 공리로부터 확률을 연구하는 데 유용한 다른 법칙들을 도출할 수 있다. 이러한 법칙들의 증명은 제3공리의 강력함과 앞선 두 공리와의 상호작용을 보여주는 매우 통찰력 있는 절차이다.

아래는 공리로부터 유도되는 주요 성질들이다. (각 성질에 대한 자세한 설명은 해당 하위 섹션 참조)

* 공집합의 확률: 공집합의 확률은 0이다.
* 여사건의 확률: 어떤 사건이 일어나지 않을 확률은 1에서 그 사건이 일어날 확률을 뺀 값과 같다.
* 포함-배제 원리: 확률의 덧셈 법칙을 임의의 개수의 집합으로 확장한 것이다.
* 단조성: A가 B의 부분집합이면 A의 확률은 B의 확률보다 작거나 같다.
* 확률의 덧셈 정리: 두 사건의 합집합의 확률은 각 사건의 확률의 합에서 두 사건의 교집합의 확률을 뺀 값과 같다.

3.1. 공집합의 확률

콜모고로프 공리로부터 확률을 연구하는 데 유용한 다른 규칙들을 도출할 수 있다. 이 규칙들의 증명은 세 번째 공리의 강력함과 앞선 두 공리와의 상호작용을 보여주는 매우 통찰력 있는 절차이다.

:$P(\backslash varnothing)=0.$

대부분의 경우, $\backslash varnothing$는 확률이 0인 유일한 사건이 아니다.

$P(\backslash varnothing\; \backslash cup\; \backslash varnothing)\; =\; P(\backslash varnothing)$인데, 그 이유는 $\backslash varnothing\; \backslash cup\; \backslash varnothing\; =\; \backslash varnothing$이기 때문이다. 셋째 공리를 좌변에 적용하면, $P(\backslash varnothing)+P(\backslash varnothing)\; =\; P(\backslash varnothing)$이 된다(참고로 $\backslash varnothing$은 자기 자신과 서로소이다). 따라서 $P(\backslash varnothing)$을 방정식의 각 변에서 빼면 $P(\backslash varnothing)\; =\; 0$이다.

사건이 비가산적인 경우, 반대로 확률이 0이라도 사건이 $\backslash varnothing$일 필요는 없다. 이전 증명에서 $P(\backslash varnothing)=0$이 증명되었다. 단, 이 결론은 귀류법으로 증명된다.

:$P(B)=P(A)+P(B\backslash setminus\; A)+\backslash sum\_\{i=3\}^\backslash infty\; P(E\_i)$는 수렴하므로, $P(\backslash varnothing)=:a$라고 하면,

:$\backslash sum\_\{i=3\}^\backslash infty\; P(E\_i)=\backslash sum\_\{i=3\}^\backslash infty\; P(\backslash varnothing)=\backslash sum\_\{i=3\}^\backslash infty\; a\; =\; \backslash begin\{cases\}$
0 &(a=0) \\
\infty &(a>0)
\end{cases}도 수렴한다.

$a>0$이라고 가정하면, 우변은 발산하여 모순되므로, $a=\; P(\backslash varnothing)\; =0$이 된다.

3.2. 여사건의 확률

어떤 사건이 일어나지 않을 확률은 1에서 그 사건이 일어날 확률을 뺀 값과 같다.

:$P\backslash left(A^\{c\}\backslash right)\; =\; P(\backslash Omega-A)\; =\; 1\; -\; P(A)$

:$A$와 $A^\{c\}$가 상호 배타적이며 $A\; \backslash cup\; A^c\; =\; \backslash Omega$일 때:

:$P(A\; \backslash cup\; A^c)=P(A)+P(A^c)$ ... (공리 3에 의해)

:그리고, $P(A\; \backslash cup\; A^c)=P(\backslash Omega)=1$ ... (공리 2에 의해)

:$\backslash Rightarrow\; P(A)+P(A^c)=1$

:$\backslash therefore\; P(A^c)=1-P(A)$

3.3. 포함-배제 원리

확률의 덧셈 법칙을 임의의 개수의 집합으로 확장한 것이 포함-배제 원리이다.

3.4. 단조성

만약 $A\backslash subseteq\; B$이면 $P(A)\backslash leq\; P(B)$이다.

A가 B의 부분집합이거나 B와 같다면, A의 확률은 B의 확률보다 작거나 같다.

단조성으로부터 다음이 즉시 도출된다.

:$0\backslash leq\; P(E)\backslash leq\; 1\backslash qquad\; \backslash forall\; E\backslash in\; F.$

이는 여집합 규칙 $P(E^c)=1-P(E)$ 와 '공리 1' $P(E^c)\backslash geq0$이 주어지면,

$1-P(E)\; \backslash geq\; 0$

$\backslash Rightarrow\; 1\; \backslash geq\; P(E)$

$\backslash therefore\; 0\backslash leq\; P(E)\backslash leq\; 1$

와 같이 증명되며, $\backslash varnothing\; \backslash subset\; E\; \backslash subset\; \backslash Omega$에 단조성의 성질을 사용하면, $P(\backslash varnothing)=0$이므로,

:$0\backslash leq\; P(E)\backslash leq\; 1$ 이 성립한다.

3.5. 확률의 덧셈 정리

두 사건 A와 B의 합집합의 확률은 각 사건의 확률의 합에서 두 사건의 교집합의 확률을 뺀 값과 같다. 이를 수식으로 표현하면 다음과 같다.

:$P(A\; \backslash cup\; B)\; =\; P(A)\; +\; P(B)\; -\; P(A\; \backslash cap\; B).$

이를 확률의 덧셈 법칙 또는 합 규칙이라고 한다. 즉, 사건 A 또는 B가 발생할 확률은 사건 A의 확률과 사건 B의 확률의 합에서 A 그리고 B 모두에 속하는 사건의 확률을 뺀 값이다.

이에 대한 증명은 다음과 같다. 먼저,

:$P(A\backslash cup\; B)\; =\; P(A)\; +\; P(B\backslash setminus\; A)$ (공리 3에 의해)

따라서,

:$P(A\; \backslash cup\; B)\; =\; P(A)\; +\; P(B\backslash setminus\; (A\; \backslash cap\; B))$ ($B\; \backslash setminus\; A\; =\; B\backslash setminus\; (A\; \backslash cap\; B)$에 의해).

또한,

:$P(B)\; =\; P(B\backslash setminus\; (A\; \backslash cap\; B))\; +\; P(A\; \backslash cap\; B)$

두 식에서 $P(B\backslash setminus\; (A\; \backslash cap\; B))$을 소거하면 원하는 결과를 얻을 수 있다.

덧셈 법칙을 임의의 개수의 집합으로 확장한 것이 포함-배제 원리이다.

4. 추가 설명

주어진 원본 소스에 '추가 설명' 섹션에 해당하는 내용이 없으므로, 작성할 내용이 없습니다.

4.1. 확률 공간

$(\backslash Omega,\; F,\; P)$를 $P(E)$가 어떤 사건 $E$의 확률인 측도 공간이라고 하고, $P(\backslash Omega)\; =\; 1$이라고 하자. 그러면 $(\backslash Omega,\; F,\; P)$는 표본 공간 $\backslash Omega$, 사건 공간 $F$ 및 확률 측도 $P$를 갖는 확률 공간이다.

콜모고로프는 확률 공간을 정의하기 위해 다음과 같은 공리계를 제시했다.

:$\backslash Omega$는 근원사건의 집합, $\backslash mathfrak\{F\}$는 $\backslash Omega$의 부분 집합으로 구성된 족(family)이며, 그 요소는 사건이다. $P$는 $\backslash mathfrak\{F\}$ 상의 집합 함수이다. 다음 5개의 공리를 만족하는 계 $(\backslash Omega,\; \backslash mathfrak\{F\},\; P)$를 확률 공간이라고 부른다.
:1. $\backslash mathfrak\{F\}$는 유한 개의 요소에 의한 합집합, 차집합, 교집합에 대해 닫혀 있다.
:2. $\backslash mathfrak\{F\}$는 $\backslash Omega$를 포함한다. 즉, $\backslash Omega\; \backslash in\; \backslash mathfrak\{F\}.$
:3. $P$는 비음의 실수 값을 취한다. 즉, $P:\backslash mathfrak\{F\}\; \backslash rightarrow\; \backslash mathbb\{R\}\_\{\backslash geq\; 0\}$
:4. $P(\backslash Omega)\; =\; 1.$
:5. $A,\; B\; \backslash in\; \backslash mathfrak\{F\}$가 상호 배타적인 집합이면, $P(A\; \backslash cup\; B)\; =P(A)\; +\; P(B).$ (유한 가법성)

$\backslash Omega$가 무한 집합인 경우에는 다음의 연속성 공리를 추가한다.
:6. $\backslash mathfrak\{F\}$의 감소열 $A\_1\; \backslash supset\; A\_2\; \backslash supset\; A\_3\; \backslash supset\; \backslash cdots$가, $\backslash textstyle\backslash bigcap\backslash limits\_\{n=1\}^\backslash infty\; A\_n\; =\backslash emptyset$를 만족한다면, $\backslash lim\_\{n\backslash to\backslash infty\}\; P(A\_n)\; =0.$

공리 5와 6으로부터, 다음의 일반화 가법 정리(완전 가법성)가 유도된다.

; 일반화 가법 정리
: 집합열 $\backslash \{\; A\_n\; \backslash \}\_\{n\backslash in\; \backslash mathbb\{N\}\}$는 상호 배타적이며, $\backslash textstyle\backslash bigcup\backslash limits\_\{n=1\}^\{\backslash infty\}\; A\_n\; \backslash in\; \backslash mathfrak\{F\}$라면,
:: $P\backslash bigl(\; \backslash textstyle\backslash bigcup\backslash limits\_\{i=1\}^\backslash infty\; A\_i\; \backslash bigr)\; =\; \backslash sum\backslash limits\_\{i=1\}^\backslash infty\; P(A\_i).$

일반화 가법 정리를 만족하는 $P$는 $\backslash mathfrak\{F\}$가 생성하는 완전 가법족(σ-대수) 상의 비음이며 완전 가법적인 집합 함수로 유일하게 확장 가능하다.

4.1.1. 표본 공간

표본 공간은 실험에서 발생할 수 있는 모든 가능한 결과들의 집합이다.

4.1.2. 사건 공간

사건 공간 $F$는 표본 공간 $\backslash Omega$의 부분 집합들로 구성된 족(family)이며, 그 요소는 사건이라고 불린다. 사건 공간은 다음의 성질을 만족해야 한다.
:1. $F$는 유한 개의 요소에 의한 합집합, 차집합, 교집합에 대해 닫혀 있다.
:2. $F$는 $\backslash Omega$를 포함한다. 즉, $\backslash Omega\; \backslash in\; F.$

4.1.3. 확률 측도

$(\backslash Omega,\; \backslash mathfrak\{F\},\; P)$를 $P(E)$가 어떤 사건 $E$의 확률인 측도 공간이라고 하고, $P(\backslash Omega)\; =\; 1$이라고 하면, $(\backslash Omega,\; \backslash mathfrak\{F\},\; P)$는 표본 공간 $\backslash Omega$, 사건 공간 $F$ 및 확률 측도 $P$를 갖는 확률 공간이다.

$\backslash Omega$는 임의의 집합, $\backslash mathfrak\{F\}$는 $\backslash Omega$ 위의 완전 가법족 (σ-집합체) (또는 유한 가법족), $P$는 $\backslash mathfrak\{F\}$ 위의 집합 함수이다. $P$가 다음 3가지 조건을 만족할 때, $P$는 $(\backslash Omega,\; \backslash mathfrak\{F\})$ 위의 확률 측도가 되며, $\backslash Omega$는 표본 공간, $\backslash mathfrak\{F\}$는 사상 공간이라고 불린다.

5. 간단한 예시: 동전 던지기

한 번의 동전 던지기를 생각해 보자. 동전은 앞면(H) 또는 뒷면(T) 중 하나로 떨어지며, 둘 다 동시에 나올 수는 없다. 동전이 공정한지에 대한 가정은 하지 않는다.

이 경우, 다음과 같이 정의할 수 있다.

:$\backslash Omega\; =\; \backslash \{H,T\backslash \}$
:$F\; =\; \backslash \{\backslash varnothing,\; \backslash \{H\backslash \},\; \backslash \{T\backslash \},\; \backslash \{H,T\backslash \}\backslash \}$

콜모고로프 공리에 따르면 다음이 성립한다.

:$P(\backslash varnothing)\; =\; 0$
:앞면도 뒷면도 나오지 않을 확률은 0이다.

:$P(\backslash \{H,T\backslash \}^c)\; =\; 0$
:앞면 또는 뒷면이 나올 확률은 1이다.

:$P(\backslash \{H\backslash \})\; +\; P(\backslash \{T\backslash \})\; =\; 1$
:앞면이 나올 확률과 뒷면이 나올 확률의 합은 1이다.

6. 같이 보기

* 보렐 집합
* 완전 가법족
* 집합론
* 조건부 확률
* 유사 확률