체비쇼프 부등식

최근 수정 시각:
2
편집
IP 우회 수단(프록시 서버, VPN, Tor 등)이나 IDC 대역 IP로 접속하셨습니다. (#30172495)
(VPN이나 iCloud의 비공개 릴레이를 사용 중인 경우 나타날 수 있습니다.)
잘못된 IDC 대역 차단이라고 생각하시는 경우 게시판에 문의하시길 바랍니다.
토론역사
[ 펼치기 · 접기 ]
(an)(bn)(anbn)\left({a_n})({b_n}\right)\ge\left({a_n}{b_n}\right)
an+bnnanbnn\frac{a_n+b_n}{n}\ge\sqrt[n]{{a_n}{b_n}}
λnf(xn)f(λnxn)\lambda_n f\left(x_n\right)\ge f\left({\lambda_n}{x_n}\right)
abapp+bqqab \leq \frac{a^p}{p}+\frac{b^q}{q}
fg1fpgq\|fg\|_1\le\|f\|_p\|g\|_q
f+gpfp+gp\|f+g\|_p\le\|f\|_p+\|g\|_p
E(X)kP(Xk)\frac{E(X)}k\ge{\rm P}(X\ge k)
P(Xμ<kσ)11k2P(|X-\mu|<k\sigma)\geq1-\frac1{k^2}
a(xy)(xz)+b(yz)(yx)+c(zx)(zy)0a\left(x-y\right)\left(x-z\right)+b\left(y-z\right)\left(y-x\right)+c\left(z-x\right)\left(z-y\right)\geq0
합 기호는 아인슈타인 합 규약을 일부 사용해 단축하였다.
 
 
 
 
 
 
 
 
 
 
 
 
[ 펼치기 · 접기 ]
기본 단위
확률론




기초
오류
방법론
 
 
 
 
 
 
 
 
 
1. 개요2. 증명3. 기타
 
 
 
 
 
 
 
 
 
 
 
 

1. 개요[편집]

 
 
 
 
 
 
 
 
 
 
 
 
Chebyshev inequality

러시아의 수학자 파프누티 체비쇼프(Pafnuty Chebyshev[1])가 발견한 절대부등식으로, 그의 이름을 땄다. 확률 분포를 정확히 모를 때 해당 확률 분포의 평균표준편차의 값만으로 특정한 확률의 최솟값만큼은 알아낼 수 있는 부등식이다.

확률 분포의 평균을 μ\mu, 표준편차를 σ\sigma라 하면 다음이 성립한다. 이를 체비쇼프 부등식이라고 한다. 단, kk는 양의 상수이다.

P[Xμ<kσ]=P[μkσ<X<μ+kσ]11k2\begin{aligned}P[|X-\mu|<k\sigma]&=P[\mu-k\sigma<X<\mu+k\sigma]\\&\geq1-\dfrac1{k^2}\end{aligned}

예를 들어 k=2k=2이면, 확률변수 XXμ±2σ\mu\pm 2\sigma 내에 있을 확률은 확률 분포에 관계없이 11/22=3/41-1/{2^2}=3/4 이상이다.

마르코프 부등식을 기본으로 한다고 할 수 있다.
 
 
 
 
 
 
 
 
 
 
 
 

2. 증명[편집]

 
 
 
 
 
 
 
 
 
 
 
 
지시함수의 활용으로 다음처럼 증명할 수 있다.

P[Xμkσ]=E[1Xμkσ]E[1XμkσXμ2k2σ2]1k2σ2E[Xμ2]=1k2\begin{aligned} P[|X-\mu|\ge k\sigma] &= \mathbb{E} [ 1_{|X-\mu|\ge k \sigma} ] \\&\le \mathbb{E} \left[ \mathbf{1}_{|X-\mu| \ge k \sigma} \cdot \frac{|X-\mu|^2}{k^2 \sigma^2} \right] \\ &\le \frac{1}{k^2 \sigma^2} \mathbb{E} [ |X-\mu|^2 ] \\&= \frac{1}{k^2} \end{aligned}

연속확률변수에 대해서 비슷한 아이디어의 증명을 다음과 같이 풀어쓸 수 있다. 확률 분포의 평균을 μ\mu, 표준편차를 σ\sigma, 함수를 f(x)f(x)라 하면
σ2=E[(Xμ)2]=(xμ)2f(x)dx=μkσ(xμ)2f(x)dx+μkσμ+kσ(xμ)2f(x)dx+μ+kσ(xμ)2f(x)dxμkσ(xμ)2f(x)dx+μ+kσ(xμ)2f(x)dx(μkσμ+kσ(xμ)2f(x)dx0)\begin{aligned}\sigma^2&=E[(X-\mu)^2]=\displaystyle\int_{-\infty}^{\infty}(x-\mu)^2f(x)\,{\rm d}x\\&=\int_{-\infty}^{\mu-k\sigma}(x-\mu)^2f(x)\,{\rm d}x+\int_{\mu-k\sigma}^{\mu+k\sigma}(x-\mu)^2f(x)\,{\rm d}x+\int_{\mu+k\sigma}^{\infty}(x-\mu)^2f(x)\,{\rm d}x\\&\geq\int_{-\infty}^{\mu-k\sigma}(x-\mu)^2f(x)\,{\rm d}x+\int_{\mu+k\sigma}^{\infty}(x-\mu)^2f(x)\,{\rm d}x \quad \biggl(\because\int_{\mu-k\sigma}^{\mu+k\sigma}(x-\mu)^2f(x)\,{\rm d}x\geq 0\biggr) \end{aligned}[2]
한편 (xμ)2k2σ2(xμkσorxμ+kσ)(x-\mu)^2\geq k^2\sigma^2\,(\leftrightarrow\,x\leq\mu-k\sigma\,\textsf{or}\,x\geq\mu+k\sigma)일 때는 다음이 성립한다.
σ2μkσ(xμ)2f(x)dx+μ+kσ(xμ)2f(x)dxμkσk2σ2f(x)dx+μ+kσk2σ2f(x)dx\begin{aligned}\sigma^2&\geq\displaystyle\int_{-\infty}^{\mu-k\sigma}(x-\mu)^2f(x)\,{\rm d}x+\int_{\mu+k\sigma}^{\infty}(x-\mu)^2f(x)\,{\rm d}x\\&\geq\int_{-\infty}^{\mu-k\sigma}k^2\sigma^2f(x)\,{\rm d}x+\int_{\mu+k\sigma}^{\infty}k^2\sigma^2f(x)\,{\rm d}x\end{aligned}
양 끝 식을 k2σ2k^2\sigma^2으로 나누면
1k2μkσf(x)dx+μ+kσf(x)dx(k2σ20)\begin{aligned}\dfrac1{k^2}\geq\displaystyle\int_{-\infty}^{\mu-k\sigma}f(x)\,{\rm d}x&+\int_{\mu+k\sigma}^{\infty}f(x)\,{\rm d}x \quad (\because k^2\sigma^2\geq 0)\end{aligned}
f(x)f(x)확률밀도함수이기 때문에 f(x)dx=1\int_{-\infty}^{\infty}f(x)\,{\rm d}x=1이므로
11k2μkσμ+kσf(x)dx=P[μkσXμ+kσ]=P[Xμ<kσ]\begin{aligned}1-\dfrac1{k^2}\leq\displaystyle\int_{\mu-k\sigma}^{\mu+k\sigma}f(x)\,{\rm d}x&=P[\mu-k\sigma\leq X\leq\mu+k\sigma]\\&=P[|X-\mu|<k\sigma]\end{aligned}
 
 
 
 
 
 
 
 
 
 
 
 

3. 기타[편집]

 
 
 
 
 
 
 
 
 
 
 
 
  • 확률변수가 1/(2k2)1/(2k^2)의 확률로 값 μ±kσ\mu \pm k\sigma를 가지고, 나머지 확률로 값 μ\mu를 가지면 등호가 성립한다.
  • 체비쇼프 부등식은 다양한 확률부등식의 기초이긴 하지만 실전에선 최약체(...)로 평가받는데, 확률론을 조금만 배우면 Hoeffding's inequality, Chernoff bound 등 훨씬 강한 유계를 주는 확률부등식들을 배우기 때문이다. 물론 모든 확률분포에 대해 성립하는 범용적인 부등식이 강력한 유계를 줄 수 있을 리도 없고, 실전에선 주로 등장하는 모종의 확률변수에 한정적으로 적용되는 특별한 부등식을 개발해 쓰는 것이니 이는 당연하다. 오히려 이런 대부분의 확률부등식들을 증명하기 위해서 이 체비쇼프 부등식과 젠센 부등식이 기본으로 사용되고, 이 둘의 역할을 서로 다른 것으로 대체할 수 없다는 점 때문에[3] 중요성이 꽤나 큰 부등식이다.
  • LpL^p-공간 버전으로 다음과 같은 일반화를 생각할 수 있다. 이때 체비쇼프 부등식은 p=2p=2, z=kσz=k\sigma인 경우이다.

P[Xμz]Xμpzp\begin{aligned}P[|X-\mu| \ge z] \le \frac{\|X-\mu\|_p}{z^p} \end{aligned}
  • 경시대회 등에 주로 등장하는 체비쇼프 부등식과는 다르다.
  • 프란체스코 파올로 칸텔리가 이 부등식을 이용해 한 쪽만 알고 싶을 때 사용할 수 있는 부등식을 정리했다.
 
 
 
 
 
 
 
 
 
 
 
 
[1] 영어권에서 표기법이 중구난방인 이름 중 하나로 꼽힌다. 과거 표기법 중에 Cheyshev, Tchebychef, Tschebyscheff 등등 다 있다. 한국어로 옮길 때 체비프, 체비프 등으로 잘못 전사되는 일도 많은 편. 이 만악의 근원은 Ё/ё라는 키릴 문자로 해당 문자의 역사적 연원과 표기의 불편함 때문에 트레마(¨)가 없는 Е/е로 표기하는 경우가 많다. 하지만 엄연히 이 둘은 서로 다른 문자로, 전자는 IPA로 [jɵ] 발음이 나서 외래어 표기법에서 'ㅛ'로 옮기지만 후자는 [je] 발음이라 'ㅖ'로 옮긴다. 러시아인 입장에서는 맥락으로 구분이 가능하다고 하지만 고유명사는 러시아인들조차 얄짤없이 외워야 한다.[2] μkσμ+kσf(x)dx\displaystyle\int_{\mu-k\sigma}^{\mu+k\sigma}f(x)\,{\rm d}x는 확률의 값이므로 0 이상이고 (xμ)20(x-\mu)^2\geq 0이므로 μkσμ+kσ(xμ)2f(x)dx0\displaystyle\int_{\mu-k\sigma}^{\mu+k\sigma}(x-\mu)^2f(x)\,{\rm d}x\geq 0이다.[3] 확률변수 XX에 대한 정보로 f(X)f(X)에 대한 부등식을 이끌어낸다고 생각할 때, 체비쇼프 부등식은 f(x)=1xμ>kσf(x) = \mathbf{1}_{|x-\mu|>k \sigma}의 경우로 간주할 수 있지만, 저 계단 함수는 볼록이 아니다. 즉, 체비쇼프 부등식은 이런 유형의 문제에서 젠센 부등식과는 본질적으로 다른 접근을 취한다고 볼 수도 있다.
 
 
 

크리에이티브 커먼즈 라이선스
이 저작물은 CC BY-NC-SA 2.0 KR에 따라 이용할 수 있습니다. (단, 라이선스가 명시된 일부 문서 및 삽화 제외)
기여하신 문서의 저작권은 각 기여자에게 있으며, 각 기여자는 기여하신 부분의 저작권을 갖습니다.

나무위키는 백과사전이 아니며 검증되지 않았거나, 편향적이거나, 잘못된 서술이 있을 수 있습니다.
나무위키는 위키위키입니다. 여러분이 직접 문서를 고칠 수 있으며, 다른 사람의 의견을 원할 경우 직접 토론을 발제할 수 있습니다.

  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •