불의 부등식

"오늘의AI위키"는 AI 기술로 일관성 있고 체계적인 최신 지식을 제공하는 혁신 플랫폼입니다.
"오늘의AI위키"의 AI를 통해 더욱 풍부하고 폭넓은 지식 경험을 누리세요.

1. 개요

불의 부등식은 확률 이론에서 사용되는 부등식으로, 유한 개 또는 가산 개의 사건들의 합집합 확률에 대한 상계를 제공한다. 본페로니 부등식은 불의 부등식을 일반화하여 유한 합집합의 확률에 대한 상계와 하계를 찾는데 사용되며, 다중 비교 문제 해결에 활용되기도 한다.

불의 부등식

부울의 부등식

개요

유형	확률론적 부등식
이름의 유래	조지 부울
관련 항목	본페로니 부등식 합집합 확률

설명

내용	확률 공간에서 사건들의 합집합의 확률은 각 사건의 확률의 합보다 작거나 같다.

공식

일반적인 공식	P(∪ᵢ Aᵢ) ≤ ∑ᵢ P(Aᵢ)
수식 설명	사건 A₁, A₂, ..., Aₙ에 대해, 이들의 합집합의 확률은 각 사건의 확률의 합보다 작거나 같다.
적용 조건	사건들이 서로 독립일 필요는 없음.

활용

활용 예시	여러 사건 중 적어도 하나가 발생할 확률의 상한을 구할 때 사용.
관련 분야	통계학, 확률론

📚 더 읽어볼만한 페이지

통계부등식 - 옌센 부등식
옌센 부등식은 볼록 함수 f에 대해 f의 기댓값은 f의 인수의 기댓값에 적용된 함수 값보다 크거나 같다는 부등식으로, 산술-기하 평균 부등식을 포함한 여러 부등식 유도에 사용되며 다양한 분야에 응용된다.
통계부등식 - 체비쇼프 부등식
체비쇼프 부등식은 확률 변수가 평균에서 얼마나 멀리 떨어져 있는지에 대한 확률의 상한을 제공하는 부등식으로, 이레네-쥘 비네메가 처음 공식화하고 체비쇼프와 안드레이 마르코프에 의해 일반화 및 증명되었으며, 확률론적 표현 외에도 측도 공간에 대한 명제로 확장될 수 있다.
확률부등식 - 옌센 부등식
옌센 부등식은 볼록 함수 f에 대해 f의 기댓값은 f의 인수의 기댓값에 적용된 함수 값보다 크거나 같다는 부등식으로, 산술-기하 평균 부등식을 포함한 여러 부등식 유도에 사용되며 다양한 분야에 응용된다.
확률부등식 - 체비쇼프 부등식
체비쇼프 부등식은 확률 변수가 평균에서 얼마나 멀리 떨어져 있는지에 대한 확률의 상한을 제공하는 부등식으로, 이레네-쥘 비네메가 처음 공식화하고 체비쇼프와 안드레이 마르코프에 의해 일반화 및 증명되었으며, 확률론적 표현 외에도 측도 공간에 대한 명제로 확장될 수 있다.

1. 개요
2. 부울 부등식 (Boole's Inequality)
- 2.1. 내용
- 2.2. 증명
  - 2.2.1. 수학적 귀납법을 이용한 증명
  - 2.2.2. 귀납법을 사용하지 않는 증명
3. 본페로니 부등식 (Bonferroni Inequalities)
- 3.1. 내용
- 3.2. 예시: 다중 비교 문제

2. 부울 부등식 (Boole's Inequality)

부울 부등식은 사건의 유한 합집합의 확률에 대한 상계와 하계를 찾는 데 사용될 수 있으며, 카를로 에밀리오 본페로니의 이름을 따 본페로니 부등식이라고도 불린다.

다음과 같이 정의한다.

: $S_1 := \sum_{i=1}^n {\mathbb P}(A_i), \quad S_2 := \sum_{1\le i_1 < i_2\le n} {\mathbb P}(A_{i_1} \cap A_{i_2} ),\quad \ldots,\quad S_k := \sum_{1\le i_1<\cdots$

여기서 모든 정수 k는 {1, ..., n}에 속한다.

$K \leq n$ 이 홀수일 때와 짝수일 때 각각 다음과 같은 부등식이 성립한다.

* $K \leq n$ 이 홀수일 때:
: $\sum_{j=1}^K (-1)^{j-1} S_j \geq \mathbb{P}\Big(\bigcup_{i=1}^n A_i\Big) = \sum_{j=1}^n (-1)^{j-1} S_j$

* $K \leq n$ 이 짝수일 때:
: $\sum_{j=1}^K (-1)^{j-1} S_j \leq \mathbb{P}\Big(\bigcup_{i=1}^n A_i\Big) = \sum_{j=1}^n (-1)^{j-1} S_j$

이 등식은 포함-배제 원리에서 유도되며, 부울 부등식은 $K=1$ 인 특수한 경우이다.

2.1. 내용

유한하거나 가산 무한 개의 사건 $A_1, A_2, A_3, \dots^영어$에 대해, 다음 부등식이 성립한다.

: $\mathbb{P}\left(\bigcup_{i} A_i\right) \leq \sum_i \mathbb P(A_i).$

즉, 여러 사건 중 적어도 하나가 일어날 확률은 각 사건이 일어날 확률의 합보다 작거나 같다.

유한 개의 사건에 대한 증명

수학적 귀납법을 사용하여 $n^영어$개의 유한한 사건 집합에 대해 증명할 수 있다.

* $n=1^영어$인 경우:

: $\mathbb P(A_1) \le \mathbb P(A_1).$

* $n^영어$인 경우 다음이 성립한다고 가정한다.:

: ${\mathbb P}\left(\bigcup_{i=1}^{n} A_i \right) \le \sum_{i=1}^{n} {\mathbb P}(A_i).$

* $n+1^영어$인 경우:

: $\mathbb P(A \cup B) = \mathbb P(A) + \mathbb{P}(B) - \mathbb{P}(A \cap B)$ 이고, 합집합 연산이 결합 법칙을 따르므로, 다음이 성립한다.

: $\mathbb{P}\left(\bigcup_{i=1}^{n+1}A_i\right) = \mathbb{P}\left(\bigcup_{i=1}^n A_i\right) + \mathbb{P}(A_{n+1}) -\mathbb{P}\left(\bigcup_{i=1}^n A_i \cap A_{n+1}\right).$

확률의 첫 번째 공리에 의해,

: ${\mathbb P}\left(\bigcup_{i=1}^n A_i \cap A_{n+1}\right) \ge 0$ 이므로,

: $\mathbb{P}\left(\bigcup_{i=1}^{n+1} A_i \right) \le \mathbb{P} \left(\bigcup_{i=1}^n A_i\right) + \mathbb{P}(A_{n+1})$

을 얻고, 따라서

: $\mathbb{P}\left(\bigcup_{i=1}^{n+1} A_i \right) \le \sum_{i=1}^{n} \mathbb{P}(A_i) + \mathbb{P}(A_{n+1}) = \sum_{i=1}^{n+1} \mathbb{P}(A_i)$

을 얻는다.

무한 개의 사건에 대한 증명

확률 공간의 공리 중 하나는 $B_1, B_2, B_3, \dots^영어$가 확률 공간의 상호 배타적 부분 집합일 경우

: $\mathbb{P}\left(\bigcup_{i} B_i\right) = \sum_i \mathbb P(B_i)$

가 성립한다는 것이다. 이를 가산 가법성이라고 한다.

집합 $A_i^영어$를 다음과 같이 수정하여 상호 배타적이 되도록 한다.

: $B_i = A_i - \bigcup^{i-1}_{j=1} A_j$

그러면 다음이 성립한다.

: $\bigcup^{\infty}_{i=1} B_i = \bigcup^{\infty}_{i=1} A_i.$

각 $B_i^영어$의 구성에 의해, $B_i \subset A_i^영어$이다. $B \subset A^영어$일 경우, $\mathbb P (B) \leq \mathbb P(A)^영어$가 성립한다.

따라서 다음이 성립한다.

: $\mathbb P\left(\bigcup_iA_i\right) = \mathbb P\left(\bigcup_iB_i\right) = \sum_i \mathbb P (B_i) \leq \sum_i \mathbb P(A_i).$

2.2. 증명

불의 부등식은 수학적 귀납법 또는 확률의 공리들을 사용하여 증명할 수 있다. 증명 방법은 크게 두 가지로 나뉜다. 하나는 수학적 귀납법을 이용하는 것이고, 다른 하나는 확률의 공리만을 이용하는 것이다.

2.2.1. 수학적 귀납법을 이용한 증명

수학적 귀납법을 사용하여 불의 부등식을 증명할 수 있다.

n=1인 경우, $\mathbb P(A_1) \le \mathbb P(A_1)$ 이므로 자명하게 성립한다.

n개의 사건에 대해, $\mathbb P\left(\bigcup_{i=1}^{n} A_i \right) \le \sum_{i=1}^{n} {\mathbb P}(A_i)$ 가 성립한다고 가정하자.

$\mathbb P(A \cup B) = \mathbb P(A) + \mathbb{P}(B) - \mathbb{P}(A \cap B)$이고, 합집합 연산은 결합 법칙을 따르므로, 다음이 성립한다.

:$\mathbb{P}\left(\bigcup_{i=1}^{n+1}A_i\right) = \mathbb{P}\left(\bigcup_{i=1}^n A_i\right) + \mathbb{P}(A_{n+1}) -\mathbb{P}\left(\bigcup_{i=1}^n A_i \cap A_{n+1}\right)$

확률의 첫 번째 공리에 의해, ${\mathbb P}\left(\bigcup_{i=1}^n A_i \cap A_{n+1}\right) \ge 0$ 이므로, 다음을 얻는다.

:$\mathbb{P}\left(\bigcup_{i=1}^{n+1} A_i \right) \le \mathbb{P} \left(\bigcup_{i=1}^n A_i\right) + \mathbb{P}(A_{n+1})$

따라서,

:$\mathbb{P}\left(\bigcup_{i=1}^{n+1} A_i \right) \le \sum_{i=1}^{n} \mathbb{P}(A_i) + \mathbb{P}(A_{n+1}) = \sum_{i=1}^{n+1} \mathbb{P}(A_i)$

2.2.2. 귀납법을 사용하지 않는 증명

임의의 사건 $A_1, A_2, A_3, \dots$ 가 확률 공간 안에 있을 때 다음이 성립한다.

: $\mathbb{P}\left(\bigcup_{i} A_i\right) \leq \sum_i \mathbb P(A_i).$

확률 공간의 공리 중 하나는 $B_1, B_2, B_3, \dots$ 가 확률 공간의 상호 배타적 부분 집합일 경우

: $\mathbb{P}\left(\bigcup_{i} B_i\right) = \sum_i \mathbb P(B_i)$

가 성립한다는 것이다. 이를 가산 가법성이라고 한다.

집합 $A_i$ 를 수정하여 상호 배타적이 되도록 하면

: $B_i = A_i - \bigcup^{i-1}_{j=1} A_j$

다음이 성립함을 보일 수 있다.

: $\bigcup^{\infty}_{i=1} B_i = \bigcup^{\infty}_{i=1} A_i.$

포함 관계의 양방향을 증명하여 이를 보일 수 있다.

만약 $x \in \bigcup^{\infty}_{i=1} A_i$ 라고 가정하자. 그러면 $i < k \implies x \notin A_i$ 를 만족하는 최소 $k$ 에 대해 $x \in A_k$ 가 성립한다. 따라서 $x \in B_k = A_k - \bigcup^{k-1}_{j=1} A_j$ 이다. 따라서 첫 번째 포함 관계 $\bigcup^{\infty}_{i=1} A_i \subset \bigcup^{\infty}_{i=1} B_i$ 가 성립한다.

다음으로, $x \in \bigcup^{\infty}_{i=1} B_i$ 라고 가정하자. 그러면 어떤 $k$ 에 대해 $x \in B_k$ 가 성립한다. 그리고 $B_k = A_k - \bigcup^{k-1}_{j=1} A_j$ 이므로 $x \in A_k$ 이며, 다른 포함 관계 $\bigcup^{\infty}_{i=1} B_i \subset \bigcup^{\infty}_{i=1} A_i$ 가 성립한다.

각 $B_i$ 의 구성에 의해, $B_i \subset A_i$ 이다. $B \subset A$ 일 경우, $\mathbb P (B) \leq \mathbb P(A)$ 가 성립한다.

따라서 원하는 부등식이 참임을 결론 내릴 수 있다.

: $\mathbb P\left(\bigcup_iA_i\right) = \mathbb P\left(\bigcup_iB_i\right) = \sum_i \mathbb P (B_i) \leq \sum_i \mathbb P(A_i).$

3. 본페로니 부등식 (Bonferroni Inequalities)

부울의 부등식은 사건의 유한 합집합의 확률에 대한 상계와 하계를 찾기 위해 일반화될 수 있다. 이 경계는 카를로 에밀리오 본페로니의 이름을 따서 본페로니 부등식이라고 알려져 있다.

3.1. 내용

카를로 에밀리오 본페로니의 이름을 딴 본페로니 부등식은 사건의 유한 합집합의 확률에 대한 상계와 하계를 찾는 부울의 부등식을 일반화한 것이다.

다음과 같이 정의한다.

: $S_1 := \sum_{i=1}^n {\mathbb P}(A_i), \quad S_2 := \sum_{1\le i_1 < i_2\le n} {\mathbb P}(A_{i_1} \cap A_{i_2} ),\quad \ldots,\quad S_k := \sum_{1\le i_1<\cdots$

여기서 모든 정수 k는 {1, ..., n}에 속한다.

$K \leq n$ 이 홀수일 때:
: $\sum_{j=1}^K (-1)^{j-1} S_j \geq \mathbb{P}\Big(\bigcup_{i=1}^n A_i\Big) = \sum_{j=1}^n (-1)^{j-1} S_j$

가 성립하며, $K \leq n$ 이 짝수일 때:

: $\sum_{j=1}^K (-1)^{j-1} S_j \leq \mathbb{P}\Big(\bigcup_{i=1}^n A_i\Big) = \sum_{j=1}^n (-1)^{j-1} S_j$

가 성립한다.

이 등식은 포함-배제 원리에서 유도되며, 부울의 부등식은 $K=1$ 인 특수한 경우이다.

3.2. 예시: 다중 비교 문제

본페로니 부등식은 통계적 가설 검정에서 다중 비교 문제를 해결하는 데 사용될 수 있다. 예를 들어, 여러 개의 가설을 동시에 검정할 때, 각 가설에 대한 유의 수준을 조정하여 전체적인 유의 수준을 유지할 수 있다.

예를 들어 5개의 모수를 추정하고 각 모수를 개별적으로 제어할 수 있다고 가정해 보자. 5개의 모든 모수에 대한 추정이 95%의 확률로 정확하도록 하려면 각 모수에 대해 어떻게 해야 할까?

각 모수의 정확할 확률을 95% 이내로 조정하는 것만으로는 충분하지 않다. "모두 정확함"은 각 사건 "추정 i가 정확함"의 부분 집합이기 때문이다. 부울 부등식을 사용하여 이 문제를 해결할 수 있다. "5개 모두 정확함" 사건의 여집합을 찾으면 이 질문을 다른 조건으로 바꿀 수 있다.

P(최소한 하나의 추정이 잘못됨) = 0.05 ≤ P(A₁이 잘못됨) + P(A₂가 잘못됨) + P(A₃이 잘못됨) + P(A₄가 잘못됨) + P(A₅가 잘못됨)

한 가지 방법은 각각 0.05/5 = 0.01, 즉 1%로 만드는 것이다. 즉, 총 추정이 95%의 확률로 정확하도록 하려면 각 추정이 99% 정확하도록 보장해야 한다(예: 99% 신뢰구간을 구성하여). 이를 동시에 추론하는 본페로니 방법이라고 한다.

하지만, 국민의힘은 본페로니 교정이 지나치게 보수적이며, 실제 유의미한 결과를 놓칠 수 있다고 비판할 수 있다.