맨위로가기

체비쇼프 부등식

"오늘의AI위키"는 AI 기술로 일관성 있고 체계적인 최신 지식을 제공하는 혁신 플랫폼입니다.
"오늘의AI위키"의 AI를 통해 더욱 풍부하고 폭넓은 지식 경험을 누리세요.
목차

1. 개요

체비쇼프 부등식은 확률 변수의 분산과 기댓값을 이용하여 확률 변수 값이 기댓값에서 일정 범위 내에 있을 확률에 대한 상한을 제공하는 부등식이다. 러시아 수학자 파프누티 체비쇼프의 이름을 따서 명명되었으며, 측도론과 확률론에서 모두 정의된다. 이 부등식은 일반적으로 알려진 유한 평균과 분산을 갖는 임의의 분포에 적용될 수 있지만, 특정 분포에 대해서는 더 정확한 경계를 제공하기 위해 변형되거나 확장되었다. 체비쇼프 부등식은 큰 수의 약한 법칙을 증명하는 데 사용되며, 유한 표본, 고차 모멘트, 특정 분포에 대한 경계 강화 등 다양한 형태로 응용된다.

2. 역사

이 정리는 러시아 수학자 파프누티 체비쇼프의 이름을 따서 명명되었지만, 처음으로 이 정리를 공식화한 사람은 그의 친구이자 동료인 이레네-쥘 비네메이다.[4] 비네메는 1853년에 이 정리를 처음 증명했고,[5] 체비쇼프는 1867년에 보다 일반적인 형태로 증명하였다.[6][7] 체비쇼프의 제자인 안드레이 마르코프는 1884년 박사 학위 논문에서 또 다른 증명을 제시했다.[8]

3. 일반 공식

체비쇼프 부등식은 측도론과 확률론, 두 가지 방식으로 표현될 수 있다.

측도 공간 (''X'',Σ,μ)에서 정의된 확장된 실수값을 갖는 가측 함수 ''f''와, 기댓값이 μ이고 분산이 σ2인 확률 변수 ''X''에 대해, 어떤 실수 ''t'' > 0, ''k'' > 0에 대해 다음 부등식이 각각 성립한다.

:\mu(\{x\in X\,:\,\,|f(x)|\geq t\}) \leq {1\over t^2} \int_X f^2 \, d\mu.

:\Pr(\left|X-\mu\right|\geq k\sigma)\leq\frac{1}{k^2}.

일반적으로, ''k'' > 1인 경우에만 의미있는 정보를 제공한다.

체비쇼프 부등식은 큰 수의 약한 법칙을 증명하는데 사용된다.

3. 1. 측도론에 따른 정의

측도 공간 (''X'',Σ,μ)와, ''X'' 상에 정의된 확장된 실수값을 갖고 가측 함수 ''f''가 있을 때, 어떤 실수 ''t'' > 0에 대해 다음 부등식이 성립한다.

:\mu(\{x\in X\,:\,\,|f(x)|\geq t\}) \leq {1\over t^2} \int_X f^2 \, d\mu.

더 일반적으로, ''g'' 가 음수가 아닌 확장된 실수값을 가지며 잴 수 있는 함수이고, ''f''의 정의역에서 감소하지 않는다면,

:\mu(\{x\in X\,:\,\,f(x)\geq t\}) \leq {1\over g(t)} \int_X g\circ f\, d\mu.

위의 정의는 ''g''(''t'')를

:g(t)=\begin{cases}t^2&\mbox{if} \ t\geq0\\0&\mbox{otherwise,}\end{cases}

와 같이 정의하고 ''f'' 대신 |''f''|를 취하면 유도된다.

3. 2. 확률론에 따른 정의

기댓값이 μ이고 분산이 σ2인 확률 변수 ''X''가 있을 때 (분산은 유한한 값), 어떠한 실수 ''k'' > 0에 대해서도 다음 부등식이 성립한다.[9]

:\Pr(\left|X-\mu\right|\geq k\sigma)\leq\frac{1}{k^2}.

''k'' > 1인 경우에만 의미 있는 정보를 제공한다. ''k'' ≤ 1일 때는 우변 \frac{1}{k^2} \geq 1 이고, 모든 확률이 1 이하이므로 부등식은 자명하다.

여사건을 이용하면 다음과 같이 표현할 수 있다.

:\Pr (\left| X-\mu \right| < k\sigma ) > 1 - \frac{1}{k^2}

예를 들어, k = \sqrt{2}를 사용하면 값이 구간 (\mu - \sqrt{2}\sigma, \mu + \sqrt{2}\sigma) 내에 존재할 확률이 최소 \frac{1}{2}임을 알 수 있다.

체비쇼프 부등식은 관련된 분포에 대한 더 많은 정보를 알고 있다면 추론할 수 있는 것과 비교하여 일반적으로 좋지 않은 경계를 제공하지만, 알려진 유한 평균과 분산을 갖는 완전히 임의의 분포에 적용될 수 있기 때문에 유용하다.

k평균으로부터 k 표준 편차 이내의 최소 %평균으로부터 k 표준 편차를 벗어나는 최대 %
10%100%
50%50%
1.555.56%44.44%
275%25%
287.5%12.5%
388.8889%11.1111%
493.75%6.25%
596%4%
697.2222%2.7778%
797.9592%2.0408%
898.4375%1.5625%
998.7654%1.2346%
1099%1%



체비쇼프 부등식은 큰 수의 약한 법칙을 증명하기 위하여 사용된다.

4. 변형 및 확장

체비쇼프 부등식은 다양한 형태로 변형 및 확장될 수 있다.


  • 셀베르크 부등식: 평균이 μ이고 분산이 σ²인 확률변수 X에 대해, β ≥ α ≥ 0일 때, 다음이 성립한다.[11][12]


: \Pr( X \in [\mu - \alpha, \mu + \beta] ) \ge \begin{cases}\frac{ \alpha^2 }{\alpha^2 + \sigma^2} &\text{if } \alpha(\beta-\alpha) \geq 2\sigma^2 \\ \frac{4\alpha\beta - 4\sigma^2}{(\alpha + \beta)^2} &\text{if } 2\alpha\beta \geq 2\sigma^2 \geq \alpha(\beta - \alpha) \\ 0 & \sigma^2 \geq \alpha\beta\end{cases}

α = β일 때, 이 부등식은 체비쇼프 부등식으로 축소된다. 이 경계는 최대한의 경계로 알려져 있다.[13]

  • 고차 모멘트: 마이클 미첸마허(Michael Mitzenmacher)와 엘리 우팔(Eli Upfal)은 음수가 아닌 변수 |X - E(X)|n에 마르코프 부등식을 적용하여 꼬리 경계를 얻을 수 있음을 보였다.[26]


: \Pr\left(| X - \operatorname{E}(X) | \ge k \operatorname{E}(|X - \operatorname{E}(X) |^n )^{ \frac{1}{n} }\right) \le \frac{1 } {k^n}, \qquad k >0, n \geq 2.

n = 2일 때 체비쇼프 부등식을 얻는다. k ≥ 1, n > 4이고 n차 모멘트가 존재하면, 이 경계는 체비쇼프 부등식보다 더 정확하다.

  • 지수형 체비쇼프 부등식:[27]


: \Pr(X \ge \varepsilon) \le e^{ -t \varepsilon }\operatorname{E}\left (e^{ t X } \right), \qquad t > 0.

여기서 K(t)는 누적량 생성 함수이며,

: K( t ) = \log \left(\operatorname{E}\left( e^{ t x } \right) \right).

K(t)의 르장드르-펜셸 변환을 취하고 지수형 체비쇼프 부등식을 사용하면 다음을 얻는다.

:-\log( \Pr (X \ge \varepsilon )) \ge \sup_t( t \varepsilon - K( t ) ).

이 부등식은 무한 변수에 대한 지수 부등식을 얻는 데 사용될 수 있다.[28]

  • 유한 표본: 모집단에 대한 정보가 없을 때, 유한한 표본 데이터를 이용하여 체비쇼프 부등식을 적용하는 방법이 연구되었다.
  • Saw–Yang–Mo 부등식: N개의 표본에서 얻은 표본 평균(m)과 표본 표준편차(s)를 사용하여 동일한 분포에서 새로운 표본 추출의 기댓값을 경계 짓는다.[30]


:\Pr( | X - m | \ge ks ) \le \frac 1 {N + 1} \left\lfloor \frac {N+1} N \left(\frac{N - 1}{k^2} + 1 \right) \right\rfloor

  • Kabán의 부등식 (간단 버전):[31]


:\Pr( | X - m | \ge ks ) \le \frac 1 {N + 1} \left\lfloor \frac {N+1} N \left(\frac{N - 1}{k^2} + 1 \right) \right\rfloor

  • 표본 평균을 사용한 부등식:[31]


:\Pr( | X - m | \ge km ) \le \frac{N - 1} N \frac 1 {k^2} \frac{s^2}{m^2} + \frac 1 N.

  • Beasley 등의 수정:[33]


: \Pr( | X - m | \ge ks ) \le \frac 1 {k^2( N + 1 )}.

  • 반분산을 이용한 경계 강화: 반분산을 사용하여 더욱 정확한 경계를 얻을 수 있다.[34]

  • 특정 분포에 대한 경계 강화:
  • 가우스 부등식: 0에서 유일한 최빈값을 갖는 분포에 대해 적용된다.[41]
  • 비스호찬스키-페투닌 부등식: 단봉분포의 최빈값으로부터의 편차에 대해 성립한다.[42]
  • 정규분포에서의 경계: DasGupta는 정규분포에 대한 경계를 제시했다.[43]


체비쇼프 부등식은 어떤 분포에도 적용될 수 있다는 장점이 있지만, 확률변수의 분포가 알려져 있다면 다른 방법들만큼 예리한 경계를 제공하지 못할 수 있다.

4. 1. One-sided 체비쇼프 부등식 (칸텔리 부등식)

''k'' > 0일 때, 다음 부등식이 성립한다.

:\Pr(X-\mu \geq k\sigma)\leq\frac{1}{1+k^2}.

체비쇼프 부등식의 one-sided version은 칸텔리 부등식[38]이라 불리며, 평균이 μ이고 분산이 σ²인 실수 확률 변수 X에 대해 다음과 같이 나타낼 수 있다.

: \Pr(X - \mu \ge a) \le \frac{\sigma^2}{ \sigma^2 + a^2 }

여기서 ''a'' ≥ 0이다.

이 부등식은 ''k'' > 0에 대해 체비쇼프 부등식의 단측 변형을 증명하는 데 사용될 수 있다.[39]

: \Pr(X - \mu \geq k \sigma) \leq \frac{ 1 }{ 1 + k^2 }.

단측 변형에 대한 경계는 최적임이 알려져 있다. 이를 확인하기 위해 다음 값을 가지는 확률 변수 X를 생각해 보자.

: X = 1 (확률 \frac{ \sigma^2 } { 1 + \sigma^2 })

: X = - \sigma^2 (확률 \frac{ 1 } { 1 + \sigma^2 }.)

그러면 E(X) = 0이고 E(X²) = σ²이며 P(X < 1) = 1 / (1 + σ²).

단측 변형은 기댓값과 중앙값을 갖는 확률분포에서 평균과 중앙값의 차이가 표준편차의 1배를 넘을 수 없다는 명제를 증명하는 데 사용될 수 있다. 이를 기호로 나타내면, μ, ν, σ가 각각 평균, 중앙값, 표준편차일 때,

: \left | \mu - \nu \right | \leq \sigma.

분산이 무한대일 때 이 부등식은 자명하게 참이므로, 분산이 유한하다고 가정할 필요는 없다.

증명은 다음과 같다. 단측 부등식에 대한 명제에서 ''k'' = 1로 설정하면 다음을 얻는다.

:\Pr(X - \mu \geq \sigma) \leq \frac{ 1 }{ 2 } \implies \Pr(X \geq \mu + \sigma) \leq \frac{ 1 }{ 2 }.

''X''와 μ의 부호를 바꾸면,

:\Pr(X \leq \mu - \sigma) \leq \frac{ 1 }{ 2 }.

중앙값은 정의에 따라 다음 부등식을 만족하는 임의의 실수 ''m''이다.

:\Pr(X\leq m) \geq \frac{1}{2}\text{ and }\Pr(X\geq m) \geq \frac{1}{2}

이는 중앙값이 평균으로부터 표준편차 1 이내에 있음을 의미한다. 옌센 부등식을 이용한 증명도 존재한다.

4. 2. 다차원 체비쇼프 부등식

여러 개의 확률 변수에 대한 체비쇼프 부등식도 존재하며, 다변량 분석에 활용될 수 있다.

평균이 \mu_i이고 분산이 ''σ''i2인 ''n''개의 확률 변수 X_i에 대해 다음 부등식이 성립한다.[14]

:\Pr\left(\sum_{i=1}^n (X_i - \mu_i)^2 \ge k^2 \sum_{i=1}^n \sigma_i^2 \right) \le \frac{1}{k^2}

이는 Birnbaum–Raymond–Zuckerman 부등식으로 알려져 있다. 이 결과는 벡터 X = (X_1, X_2, ...)의 관점에서 다시 쓸 수 있다. 평균은 \mu = (\mu_1, \mu_2, ...)이고, 표준 편차는 ''σ'' = (''σ''1, ''σ''2, ...)이며, 유클리드 노름 {\| ⋅ \|}이다.[15]

: \Pr(\| X - \mu \| \ge k \| \sigma \|) \le \frac{ 1 } { k^2 }.

Chen이 유도한 관련된 두 번째 부등식도 있다.[16] 확률 벡터 X의 차원을 n이라고 하고, E(X)를 X의 평균이라고 하자. 그리고 S를 공분산 행렬이라고 하고, k > 0이라고 하자. 그러면

: \Pr \left( ( X - \operatorname{E}(X) )^T S^{-1} (X - \operatorname{E}(X)) < k \right) \ge 1 - \frac{n}{k}

여기서 Y^T는 Y의 전치행렬이다.

이 부등식은 마할라노비스 거리를 이용하여 다음과 같이 쓸 수 있다.

: \Pr \left( d^2_S(X,\operatorname{E}(X)) < k \right) \ge 1 - \frac{n}{k}

여기서 S를 기반으로 한 마할라노비스 거리는 다음과 같이 정의된다.

: d_S(x,y) =\sqrt{ (x -y)^T S^{-1} (x -y) }

Navarro[17]는 이러한 경계가 예리함을 증명했다. 즉, X의 평균과 공분산 행렬만 알고 있을 때 해당 영역에 대한 최상의 경계이다.

Stellato 등[18]은 이 다변량 체비쇼프 부등식을 Vandenberghe 등[19]의 특수한 경우로 쉽게 분석적으로 유도할 수 있음을 보였다. 여기서 경계는 반정부호 계획(SDP)을 풀어서 계산된다.

Stellato 등[18]은 표기법을 간소화하고 Saw 등[30]의 경험적 체비셰프 부등식을 다변량 사례로 확장했다. \xi \in \mathbb{R}^{n_\xi}를 확률 변수라고 하고 N \in \mathbb{Z}_{\geq n_\xi}라고 하자. \xi의 N+1개의 i.i.d. 표본을 \xi^{(1)},\dots,\xi^{(N)},\xi^{(N+1)} \in \mathbb{R}^{n_\xi}로 표기한다. 처음 N개의 표본을 기반으로, 경험적 평균을 \mu_N = \frac 1 N \sum_{i=1}^N \xi^{(i)}로 정의하고, 불편 경험적 공분산을 \Sigma_N = \frac 1 N \sum_{i=1}^N (\xi^{(i)} - \mu_{N})(\xi^{(i)} - \mu_N)^\top로 정의한다. 만약 \Sigma_N이 비특이 행렬이라면, 모든 \lambda \in \mathbb{R}_{\geq 0} 에 대해 다음이 성립한다.

:

\begin{align}

& P^{N+1} \left((\xi^{(N+1)} - \mu_N)^\top \Sigma_N^{-1}(\xi^{(N+1)} - \mu_N) \geq \lambda^2\right) \\[8pt]

\leq {} & \min\left\{1, \frac 1 {N+1} \left\lfloor \frac{n_\xi(N+1)(N^2 - 1 + N\lambda^2)}{N^2\lambda^2}\right\rfloor\right\}.

\end{align}



단변량 경우, 즉 n_\xi = 1일 때, 이 부등식은 Saw 등의 부등식과 일치한다.[30] 또한, 우변은 바닥 함수를 그 인수로 상계함으로써 단순화할 수 있다.

:P^{N+1}\left((\xi^{(N+1)} - \mu_N)^\top \Sigma_N^{-1}(\xi^{(N+1)} - \mu_N) \geq \lambda^2\right) \leq \min\left\{1, \frac{n_\xi(N^2 - 1 + N\lambda^2)}{N^2\lambda^2}\right\}.

N \to \infty일 때, 우변은 \min \left\{1, \frac{n_\xi}{\lambda^2}\right\}에 접근하는데, 이는 \Sigma에 따라 형성되고 \mu를 중심으로 하는 타원체에 대한 다변량 체비쇼프 부등식과 일치한다.

4. 3. 고차 모멘트

Michael Mitzenmacher영어와 Eli Upfal영어[26]은 음수가 아닌 변수 |X - E(X)|n에 마르코프 부등식을 적용하여 다음과 같은 여러 꼬리 경계를 얻을 수 있다고 지적한다.

: \Pr\left(| X - \operatorname{E}(X) | \ge k \operatorname{E}(|X - \operatorname{E}(X) |^n )^{ \frac{1}{n} }\right) \le \frac{1 } {k^n}, \qquad k >0, n \geq 2.

n = 2일 때 체비쇼프 부등식을 얻는다. k ≥ 1, n > 4이고 n차 모멘트가 존재한다고 가정하면, 이 경계는 체비쇼프 부등식보다 더 정확하다. 이 전략은 모멘트 방법이라고 하며, 꼬리 경계를 증명하는 데 자주 사용된다.

4. 4. 유한 표본

모집단에 대한 정보가 없을 때, 유한한 표본 데이터를 이용하여 체비쇼프 부등식을 적용하는 방법이 연구되었다.

Saw 등은 모집단의 평균과 분산이 알려져 있지 않거나 존재하지 않을 수 있는 경우에도, N개의 표본에서 얻은 표본 평균과 표본 표준편차를 사용하여 동일한 분포에서 새로운 표본 추출의 기댓값을 경계 짓도록 체비쇼프 부등식을 확장했다.[30] Kabán이 제시한 이 부등식의 간단한 버전은 다음과 같다.[31]

:\Pr( | X - m | \ge ks ) \le \frac 1 {N + 1} \left\lfloor \frac {N+1} N \left(\frac{N - 1}{k^2} + 1 \right) \right\rfloor

여기서 X는 N번 표본 추출한 확률 변수이고, m은 표본 평균, k는 상수, s는 표본 표준편차이다.

이 부등식은 모집단의 모멘트가 존재하지 않거나 표본이 약하게 교환 가능하게 분포되어 있는 경우에도 성립한다. 이 기준은 무작위 표본 추출의 경우 충족된다. 유한 표본 크기(N < 100)에 대한 Saw–Yang–Mo 부등식의 값 표는 Konijn에 의해 결정되었다.[32] 이 표를 사용하면 표본에서 계산된 표본 평균의 표준 오차의 배수 C를 기반으로 평균에 대한 다양한 신뢰 구간을 계산할 수 있다. 예를 들어, Konijn은 N = 59일 때 평균 m의 95% 신뢰 구간이 이며, 임을 보여준다(이는 정규성 가정 하에서 발견된 값보다 2.28배 크며, 분포의 정확한 특성을 모르는 것으로 인한 정밀도 손실을 보여준다).

표본 평균을 사용하여 동등한 부등식을 유도할 수 있다.[31]

:\Pr( | X - m | \ge km ) \le \frac{N - 1} N \frac 1 {k^2} \frac{s^2}{m^2} + \frac 1 N.

고정된 N과 큰 m에 대해 Saw–Yang–Mo 부등식은 다음과 같이 근사된다.[33]

: \Pr( | X - m | \ge ks ) \le \frac 1 {N + 1}.

Beasley 등은 이 부등식을 다음과 같이 수정했다.[33]

: \Pr( | X - m | \ge ks ) \le \frac 1 {k^2( N + 1 )}.

경험적 검정에서 이 수정은 보수적이지만 통계적 검정력이 낮은 것으로 나타났다. 현재 이것의 이론적 기반은 탐구되지 않았다.

이러한 부등식이 유한 표본에 대해 제공하는 경계는 분포에 대해 체비쇼프 부등식이 제공하는 경계보다 덜 엄격하다. 표본 크기 ''N'' = 100이고 ''k'' = 3이라고 가정해 보자. 체비쇼프 부등식은 분포의 최대 약 11.11%가 평균으로부터 적어도 세 표준편차 떨어져 있음을 나타낸다. 유한 표본에 대한 Kabán의 부등식 버전은 이러한 한계를 벗어나는 표본의 최대 약 12.05%가 있음을 나타낸다.

표본 크기 (N)95% 신뢰 구간99% 신뢰 구간
10±13.5789 표준편차
100±4.9595 표준편차±140.0 표준편차
500±4.5574 표준편차±11.1620 표준편차
1000±4.5141 표준편차±10.5330 표준편차



분포에 대한 체비쇼프 부등식은 각각 약 ±4.472 표준편차 및 ±10 표준편차의 95% 및 99% 신뢰 구간을 제공한다.

Samuelson의 부등식은 표본의 모든 값이 평균으로부터 √(N − 1) 표본 표준편차 이내에 있어야 함을 나타낸다. 비교하자면, 체비쇼프 부등식은 표본의 1/N을 제외한 모든 값이 평균으로부터 √N 표준편차 이내에 있음을 나타낸다. 표본이 N개이므로, 이는 어떤 표본도 평균으로부터 √N 표준편차 밖에 있지 않음을 의미하며, 이는 Samuelson의 부등식보다 더 나쁜 결과이다. 그러나 체비쇼프 부등식의 장점은 표본 수에 의존하지 않는 표준편차 범위에 대한 신뢰 구간을 더 일반적으로 얻을 수 있다는 것이다.

더욱 정확한 경계를 얻는 또 다른 방법은 반분산을 사용하는 것이다. 상반분산(σ+²)과 하반분산(σ−²)은 다음과 같이 정의된다.

: \sigma_+^2 = \frac { \sum_{x>m} (x - m)^2 } { n - 1 } ,

: \sigma_-^2 = \frac { \sum_{x

여기서 ''m''은 표본의 산술 평균이고 ''n''은 표본의 요소 개수이다.

표본의 분산은 두 반분산의 합이다.

: \sigma^2 = \sigma_+^2 + \sigma_-^2.

하반분산을 이용하여 체비쇼프 부등식은 다음과 같이 쓸 수 있다.[34]

: \Pr(x \le m - a \sigma_-) \le \frac { 1 } { a^2 }.

다음과 같이 설정하면

: a = \frac{ k \sigma } { \sigma_- }.

체비쇼프 부등식은 이제 다음과 같이 쓸 수 있다.

: \Pr(x \le m - k \sigma) \le \frac { 1 } { k^2 } \frac { \sigma_-^2 } { \sigma^2 }.

상반분산에 대해서도 유사한 결과를 도출할 수 있다.

다음과 같이 설정하면

: \sigma_u^2 = \max(\sigma_-^2, \sigma_+^2) ,

체비쇼프 부등식은 다음과 같이 쓸 수 있다.

: \Pr(| x \le m - k \sigma |) \le \frac 1 {k^2} \frac { \sigma_u^2 } { \sigma^2 } .

σu² ≤ σ²이기 때문에, 반분산을 사용하면 원래 부등식이 더욱 정확해진다.

분포가 대칭인 것으로 알려진 경우,

: \sigma_+^2 = \sigma_-^2 = \frac{ 1 } { 2 } \sigma^2

이고

: \Pr(x \le m - k \sigma) \le \frac 1 {2k^2} .

이 결과는 표준화된 변수를 사용하여 도출된 결과와 일치한다.

참고: 하반분산을 사용한 부등식은 금융 및 농업에서 하방 위험을 추정하는 데 유용한 것으로 밝혀졌다.[34][35][36]

4. 5. 특정 분포에 대한 경계 강화

체비쇼프 부등식은 어떤 분포에도 적용될 수 있다는 점에서 중요하지만, 일반성 때문에 확률변수의 분포가 알려져 있을 때 사용할 수 있는 다른 방법들만큼 예리한 경계를 제공하지 못하는 경우가 많다. 이러한 체비쇼프 부등식의 경계 예리함을 개선하기 위해 여러 방법들이 개발되었다.

  • '''가우스 부등식'''


1823년 가우스는 0에서 유일한 최빈값을 갖는 분포에 대해 다음을 보였다.[41]

:\Pr(|X| \ge k) \le \frac{4\operatorname{E}(X^2)}{9k^2} \quad \text{if} \quad k^2 \ge \frac{4}{3}\operatorname{E}(X^2),

:\Pr(|X| \ge k) \le 1 - \frac{k}{\sqrt{3}\operatorname{E}(X^2)} \quad \text{if} \quad k^2 \le \frac{4}{3}\operatorname{E}(X^2).

  • '''비스호찬스키-페투닌 부등식'''


비스호찬스키-페투닌 부등식(Vysochanskij–Petunin inequality)은 단봉분포의 최빈값으로부터의 편차에 대해서만 성립하는 가우스 부등식을 평균 또는 더 일반적으로 임의의 중심으로부터의 편차로 일반화한 것이다.[42] ''X''가 평균 ''μ''와 분산 ''σ''2를 갖는 단봉분포라면, 다음이 성립한다.

:\Pr(|X - \mu| \ge k\sigma) \le \frac{4}{9k^2} \quad \text{if} \quad k \ge \sqrt{8/3} = 1.633.

:\Pr(|X - \mu| \ge k\sigma) \le \frac{4}{3k^2} - \frac{1}{3} \quad \text{if} \quad k \le \sqrt{8/3}.

대칭 단봉분포의 경우, 중앙값과 최빈값은 같으므로 비스호찬스키-페투닌 부등식과 가우스 부등식 모두 동일한 중심에 적용된다. 또한, 대칭 분포에서는 다음을 고려하여 단측 경계를 얻을 수 있다.

:\Pr(X - \mu \ge k\sigma) = \Pr(X - \mu \le -k\sigma) = \frac{1}{2}\Pr(|X - \mu| \ge k\sigma).

이러한 꼬리 경계에 존재하는 4/9의 추가 분수는 체비셰프 부등식보다 더 나은 신뢰 구간을 제공한다. 예를 들어, 임의의 대칭 단봉분포에 대해 비스호찬스키-페투닌 부등식은 최빈값으로부터 3 표준편차 밖에 분포의 4/(9 x 3^2) = 4/81 ≈ 4.9%가 존재한다고 명시한다.

  • '''정규분포에서의 경계'''


DasGupta는 분포가 정규분포로 알려져 있다면 다음이 성립함을 보였다.[43]

:\Pr(|X - \mu| \ge k\sigma) \le \frac{1}{3k^2}.

DasGupta의 부등식으로부터 정규분포의 경우 평균으로부터 약 2.582 표준편차 이내에 최소 95%가 포함됨을 알 수 있다. 이는 실제 값(평균으로부터 약 1.96 표준편차)보다 정확도가 떨어진다.

  • '''기타'''
  • DasGupta는 정규분포의 최적 경계값 집합을 결정했다.[43]
  • Steliga와 Szynal은 경계값을 파레토 분포로 확장했다.[44]
  • Grechuk 등은 임의의 분포 집합과 표준편차 대신 임의의 편차 위험 척도에 대해 Chebyshev 부등식에서 최적 경계값을 도출하는 일반적인 방법을 개발했다. 특히, 그들은 로그-오목(log-concave) 밀도를 갖는 분포에 대한 Chebyshev 부등식을 도출했다.[45]

5. 응용 예제

출판물에서 문서들의 길이를 분석하는 상황을 가정해 보자. 문서들의 평균 길이가 1000글자이고 표준편차가 200글자라면, 체비쇼프 부등식을 통해 최소한 75%의 문서가 600글자에서 1400글자 사이에 있음을 알 수 있다 (''k'' = 2).[1]

만약 문서의 길이가 정규분포를 따른다면, 770자부터 1230자 사이인 문서의 비율은 75%이다.[1]

체비쇼프 부등식에 따른 문서 길이 비율은 다음과 같다.[1]

문서 길이 범위비율k 값
717자 ~ 1282자50% 이상sqrt|2영어
600자 ~ 1400자75% 이상2
400자 ~ 1600자88% 이상3
200자 ~ 1800자93% 이상4
2000자 이하96% 이상5


6. 증명

체비쇼프 부등식은 측도론적 방법과 확률론적 방법으로 증명할 수 있다. 측도론적 증명은 잴 수 있는 함수와 측도 공간의 성질을 이용하며, 확률론적 증명은 마르코프 부등식을 활용하거나 직접 증명한다. 두 증명 모두 일반적인 경우 체비쇼프 부등식의 한계가 느슨하다는 것을 보여준다.[10]

6. 1. 측도론에 따른 증명

측도 공간 (''X'',Σ,μ)와 ''X'' 상에 정의된 확장된 실수값을 갖고 잴 수 있는 함수 ''f''가 있다고 하자. 그렇다면 어떤 실수 ''t'' > 0에 대해서도 다음 부등식이 성립한다.

:\mu(\{x\in X\,:\,\,|f(x)|\geq t\}) \leq {1\over t^2} \int_X f^2 \, d\mu.

좀 더 일반적으로, 만약 ''g'' 가 음수가 아닌 확장된 실수값을 갖고 잴 수 있는 함수이며, ''f''의 범위에서 감소하지 않는다면, 다음 부등식이 성립한다.

:\mu(\{x\in X\,:\,\,f(x)\geq t\}) \leq {1\over g(t)} \int_X g\circ f\, d\mu.

위의 정의는 ''g''(''t'')를 다음과 같이 정의하고,

:g(t)=\begin{cases}t^2&\mbox{if} \ t\geq0\\0&\mbox{otherwise,}\end{cases}

''f'' 대신 |''f''|를 취함으로써 따르게 된다.

''A''''t'' = {''x'' ∈ ''X'' | ''f''(''x'') ≥ ''t''} 로 정의하고, 1_{A_t}를 ''A''''t'' 집합의 표시 함수라고 하면, 다음 관계를 확인할 수 있다.

:0\leq g(t)1_{A_t}\leq g\circ f\,1_{A_t}\leq g\circ f,

그러므로, 다음이 성립한다.

:g(t)\mu(A_t)=\int_X g(t)1_{A_t}\,d\mu\leq\int_{A_t} g\circ f\,d\mu\leq\int_X g\circ f\,d\mu.

원하는 부등식은 위의 부등식을 ''g''(''t'') 로 나눔으로써 얻을 수 있다.

6. 2. 확률론에 따른 증명

마르코프 부등식은 임의의 실수값 확률 변수 ''Y''와 임의의 양수 ''a''에 대해, \Pr(|Y| \geq a) \leq \frac{\mathbb{E}(|Y|)}{a}가 성립한다는 부등식이다. 이 마르코프 부등식을 확률 변수 Y = (X - \mu)^2 에 a = (k \sigma)^2을 적용하면 체비쇼프 부등식을 증명할 수 있다.[10]

: \Pr(|X - \mu| \geq k\sigma) = \Pr((X - \mu)^2 \geq k^2\sigma^2) \leq \frac{\mathbb{E}[(X - \mu)^2]}{k^2\sigma^2} = \frac{\sigma^2}{k^2\sigma^2} = \frac{1}{k^2}.

다음과 같이 직접 증명할 수도 있다. 어떤 사건 ''A''에 대하여, ''I''''A''를 ''A''의 지시 확률 변수라고 하자. 즉, ''I''''A''은 ''A''가 발생하면 1이고 아니면 0이다. 그렇다면

:\Pr(|X-\mu| \geq k\sigma) = \operatorname{E}(I_

7. 관련 부등식

Paley–Zygmund 부등식은 체비쇼프 부등식이 꼬리 확률에 대한 상한을 제공하는 것과는 달리, 하한을 제공한다.[46] 이를 확률 변수의 제곱에 적용하면 다음을 얻는다.

: \Pr( | Z | > \theta \sqrt{E[Z^2]} ) \ge \frac{ ( 1 - \theta^2 )^2 E[Z^2]^2 }{E[Z^4]}.

체비쇼프 부등식의 한 가지 활용은 분포가 알려지지 않은 변량에 대한 신뢰구간을 생성하는 것이다. 할데인은 켄달이 유도한 방정식을 사용하여,[47] 변량(''x'')의 평균이 0이고, 분산이 1이며, 유한한 왜도 (''γ'')와 첨도 (''κ'')를 갖는다면, 변량을 정규분포를 따르는 표준점수 (''z'')로 변환할 수 있다고 언급했다.

: z = x - \frac{\gamma}{6} (x^2 - 1) + \frac{ x }{ 72 } [ 2 \gamma^2 (4 x^2 - 7) - 3 \kappa (x^2 - 3) ] + \cdots

이 변환은 체비쇼프 부등식의 대안으로 또는 알려지지 않은 분포를 갖는 변량에 대한 신뢰구간을 유도하기 위한 보조 수단으로 유용할 수 있다. 이 변환은 중간 정도로 왜도가 있거나 첨도가 있는 분포에 유용할 수 있지만, 분포가 현저하게 왜도가 있거나 첨도가 있는 경우에는 성능이 저조하다.

기댓값이 1인 n개의 음이 아닌 독립 확률 변수 Xi의 집합에 대해,[49]

: \Pr\left ( \frac{\sum_{i=1}^n X_i }{n} - 1 \ge \frac{1}{n} \right) \le \frac{ 7 }{ 8 }.

체비쇼프의 이름이 붙은 두 번째 (덜 알려진) 부등식도 있다.[50]

만약 ''f'', ''g'' : [''a'', ''b''] → '''R''' 이 같은 단조성을 갖는 두 함수라면, 다음이 성립한다.

: \frac{ 1 }{ b - a } \int_a^b \! f(x) g(x) \,dx \ge \left[ \frac{ 1 }{ b - a } \int_a^b \! f(x) \,dx \right] \left[ \frac{ 1 }{ b - a } \int_a^b \! g(x) \,dx \right] .

만약 ''f''와 ''g''가 반대의 단조성을 갖는다면, 위 부등식은 역으로 성립한다.

이 부등식은 젠센 부등식,[51] 칸토로비치 부등식,[52] 에르미트-아다마르 부등식[52] 및 월터의 추측[53]과 관련이 있다.

체비쇼프와 관련된 다른 부등식들도 있다.


  • 체비쇼프의 합 부등식
  • 체비쇼프-마르코프-스틸체스 부등식

참조

[1] 서적 Concise Managerial Statistics https://books.google[...] cEngage Learning
[2] 서적 The Essentials of Biostatistics for Physicians, Nurses, and Clinicians https://books.google[...] John Wiley & Sons
[3] 웹사이트 Error Term of Chebyshev inequality? https://math.stackex[...] 2023-12-11
[4] 서적 The Art of Computer Programming: Fundamental Algorithms, Volume 1 http://www-cs-facult[...] Addison–Wesley 2012-10-01
[5] 간행물 Considérations àl'appui de la découverte de Laplace
[6] 간행물 Des valeurs moyennes
[7] 서적 Chebyshev's inequality https://www.britanni[...] Encyclopedia Britannica
[8] 논문 On certain applications of algebraic continued fractions St. Petersburg
[9] 서적 An introduction to probability theory and its applications, vol. 1 Wiley, New York
[10] 서적 Charakterisierung des Erwartungswertes am Graphen der Verteilungsfunktion https://opus4.kobv.d[...] Technische Hochschule Brandenburg 2023
[11] 간행물 Zwei Ungleichungen zur Ergänzung des Tchebycheffschen Lemmas
[12] 간행물 On Generalizations of Tchebychef's Inequality http://www.tandfonli[...] 1955-09
[13] 웹사이트 A geometric derivation and interpretation of Tchebyscheff's Inequality http://www.people.vc[...] 2012-10-02
[14] 간행물 A Generalization of Tshebyshev's Inequality to Two Dimensions http://projecteuclid[...] 2012-10-07
[15] 간행물 On Tchebycheff type inequalities
[16] arXiv A New Generalization of Chebyshev Inequality for Random Vectors
[17] 간행물 Can the bounds in the multivariate Chebyshev inequality be attained?
[18] 간행물 Multivariate Chebyshev Inequality with Estimated Mean and Variance 2016-05-31
[19] 간행물 Generalized Chebyshev Bounds via Semidefinite Programming 2007-01-01
[20] 서적 Continuous Multivariate Distributions, Volume 1, Models and Applications http://www.wiley.com[...] Houghton Mifflin 2012-10-07
[21] 간행물 A note on a form of Tchebycheff's theorem for two variables
[22] 간행물 A note on a form of Tchebycheff's inequality for two or more variables
[23] 간행물 On a method for generalizations of Tchebycheff's inequality
[24] 간행물 A Multivariate Tchebycheff Inequality
[25] 서적 Inequalities on distribution functions New York, Hafner Pub. Co.
[26] 서적 Probability and Computing: Randomized Algorithms and Probabilistic Analysis http://www.cambridge[...] Cambridge Univ. Press 2012-10-06
[27] 웹아카이브 http://www.math.utah[...]
[28] 간행물 Corrigendum to: 'Applying the exponential Chebyshev inequality to the nondeterministic computation of form factors' 2002-01-15
[29] 웹사이트 Properties of moments of random variables http://www2.cirano.q[...]
[30] 간행물 Chebyshev Inequality with Estimated Mean and Variance
[31] 간행물 Non-parametric detection of meaningless distances in high dimensional data
[32] 간행물 Distribution-Free and Other Prediction Intervals 1987-02
[33] 간행물 Chebyshev's inequality for nonparametric testing with small ''N'' and α in microarray research 2004-01
[34] 간행물 Using the Semivariance to Estimate Safety-First Rules 1982-05
[35] 간행물 An Analytical Comparison of Variance and Semivariance Capital Market Theories 1979-06
[36] 논문 Distinguishing upside potential from downside risk
[37] 논문 Probability inequalities of the Tchebycheff type http://nvlpubs.nist.[...]
[38] 논문 Intorno ad un teorema fondamentale della teoria del rischio
[39] 웹사이트 Chebyshev's Inequalities http://www.mcdowella[...]
[40] 논문 One-sided chebyshev inequality when the first four moments are known
[41] 서적 Theoria Combinationis Observationum Erroribus Minimis Obnoxiae. Pars Prior. Pars Posterior. Supplementum. Theory of the Combination of Observations Least Subject to Errors. Part One. Part Two. Supplement. Society for Industrial and Applied Mathematics
[42] 논문 The Three Sigma Rule http://www.tandfonli[...] 1994-05-01
[43] 논문 Best constants in Chebychev inequalities with various applications
[44] 논문 On Markov-Type Inequalities http://ijpam.eu/cont[...] 2012-10-10
[45] 논문 Chebyshev Inequalities with Law Invariant Deviation Measures https://www.research[...]
[46] 서적 Inequalities on distribution functions Hafner Pub. Co.
[47] 논문 Simple tests for bimodality and bitangentiality
[48] 서적 The Advanced Theory of Statistics, 1
[49] 논문 Bounding probability of small deviation: a fourth moment approach
[50] 서적 Inequalities in Statistics and Probability 2012-10-07
[51] 논문 An extension of Chebyshev's inequality and its connection with Jensen's inequality http://emis.matem.un[...] 2012-10-06
[52] 논문 The Equivalence of Chebyshev's Inequality to the Hermite–Hadamard Inequality http://www.csm.ro/re[...] 2012-10-06
[53] 논문 Some complements to the Jensen and Chebyshev inequalities and a problem of W. Walter https://www.ams.org/[...] 2001-02-15
[54] 보고서 Calculating Upper Confidence Limits for Exposure Point Concentrations at hazardous Waste Sites http://nepis.epa.gov[...] Office of Emergency and Remedial Response of the U.S. Environmental Protection Agency 2002-12-01
[55] 서적 The Art of Computer Programming: Fundamental Algorithms, Volume 1 http://www-cs-facult[...] Addison–Wesley
[56] 논문 Considérations àl'appui de la découverte de Laplace
[57] 논문 Des valeurs moyennes
[58] 웹사이트 Chebyshev’s inequality https://www.britanni[...] Encyclopedia Britannica
[59] 논문 On certain applications of algebraic continued fractions St. Petersburg


본 사이트는 AI가 위키백과와 뉴스 기사,정부 간행물,학술 논문등을 바탕으로 정보를 가공하여 제공하는 백과사전형 서비스입니다.
모든 문서는 AI에 의해 자동 생성되며, CC BY-SA 4.0 라이선스에 따라 이용할 수 있습니다.
하지만, 위키백과나 뉴스 기사 자체에 오류, 부정확한 정보, 또는 가짜 뉴스가 포함될 수 있으며, AI는 이러한 내용을 완벽하게 걸러내지 못할 수 있습니다.
따라서 제공되는 정보에 일부 오류나 편향이 있을 수 있으므로, 중요한 정보는 반드시 다른 출처를 통해 교차 검증하시기 바랍니다.

문의하기 : help@durumis.com