Back to : mathematical-statistics

λ‹€λ³€μˆ˜ 뢄포에 λŒ€ν•΄ μ•Œμ•„λ³΄κΈ° 전에, λͺ‡κ°€μ§€ μ€‘μš”ν•œ 뢀등식을 λ³΄μž…λ‹ˆλ‹€. 정리 : μ  μ„Ό 뢀등식 (Jensen Inequality)
ν™•λ₯ λ³€μˆ˜ $X$와 λ³Όλ‘ν•¨μˆ˜ $\phi$에 λŒ€ν•˜μ—¬, λ‹€μŒμ΄ μ„±λ¦½ν•œλ‹€. \(\phi(\E(X)) \leq \E(\phi(X))\)
$\E$λ₯Ό (ν™•λ₯ μ„ λ°˜μ˜ν•œ) 가쀑 ν‰κ· μœΌλ‘œ μƒκ°ν•˜λ©΄, λ³Όλ‘ν•¨μˆ˜μ— λŒ€ν•΄ (가쀑 ν‰κ· μ˜ ν•©μˆ˜κ°’) 은 (ν•¨μˆ˜κ°’μ˜ 가쀑 평균) μ΄ν•˜λΌλŠ” μ •λ¦¬μž…λ‹ˆλ‹€.

이계 미뢄을 μ΄μš©ν•˜λ©΄ 이 뢀등식을 μ‰½κ²Œ 증λͺ…ν•  수 μžˆμ§€λ§Œ, $\phi$κ°€ λ‘λ²ˆ λ―ΈλΆ„κ°€λŠ₯ν•œ ν•¨μˆ˜μΌ λ•Œλ§Œ κ°€λŠ₯ν•œ 증λͺ…μ΄λΌλŠ” ν•œκ³„κ°€ μžˆμŠ΅λ‹ˆλ‹€. μ—¬κΈ°μ„œλŠ” 쑰금 λ‹€λ₯Έ 증λͺ…을 μ΄μš©ν•˜κ² μŠ΅λ‹ˆλ‹€. 식을 λ‹€μ‹œ μ“°λ©΄, λ³Όλ‘ν•¨μˆ˜ $\phi$에 λŒ€ν•΄, λ‹€μŒμ„ 보이면 μΆ©λΆ„ν•©λ‹ˆλ‹€. \(\phi\left(\int_{A} g(x) \dd{x}\right) \leq \int_{A} \phi(g(x)) \dd{x}\) λ³Όλ‘ν•¨μˆ˜μ˜ μ •μ˜μ— 따라, μž„μ˜μ˜ $x_0$ 에 λŒ€ν•΄, $ax + b \leq \phi(x)$, $ax_0 + b = \phi(x_0)$ λ₯Ό λ§Œμ‘±ν•˜λŠ” μ–΄λ–€ 직선 $y = ax + b$κ°€ μ‘΄μž¬ν•©λ‹ˆλ‹€. (이λ₯Ό $\phi$의 sub-derivative라 ν•˜λŠ”λ°, $\phi$κ°€ 연속인 λ³Όλ‘ν•¨μˆ˜κΈ°λ§Œ ν•˜λ©΄ λ―ΈλΆ„κ°€λŠ₯ν•˜μ§€ μ•Šμ•„λ„ μ‘΄μž¬ν•©λ‹ˆλ‹€. μ§κ΄€μ μœΌλ‘œ λ³΄μ΄κΈ°λŠ” λ³„λ‘œ 어렡지 μ•ŠμœΌλ‚˜, (적어도 μ œκ°€ μ•„λŠ” 증λͺ…은) supporting hyperplane theoremμ΄λΌλŠ” μƒλ‹Ήνžˆ κ°•ν•œ νˆ΄μ„ μš”κ΅¬ν•©λ‹ˆλ‹€. μ—¬κΈ°μ„œλŠ” μΌλ³€μˆ˜λ§Œ λ³Ό κ²ƒμ΄λ―€λ‘œ 증λͺ… μƒλž΅.)

$x_0 = \displaystyle \int_{A} g(x) \dd{x}$라 ν•˜κ³  이λ₯Ό κ·ΈλŒ€λ‘œ ν™œμš©ν•˜λ©΄, λ‹€μŒμ΄ μ„±λ¦½ν•©λ‹ˆλ‹€. \(\int_{A} \phi(g(x)) \dd{x} \geq \int_{A} ag(x) + b \dd{x} \geq a \int_{A} g(x) \dd{x} + b = ax_0 + b = \phi\left(\int_{A} g(x) \dd{x}\right)\)

정리 : 리야푸노프 뢀등식 (Liapounov Inequality)
ν™•λ₯ λ³€μˆ˜ $X$에 λŒ€ν•΄ $\E(\abs{X}^s) < \infty$ 이면, $0 < r < s$인 $r$에 λŒ€ν•΄, λ‹€μŒμ΄ μ„±λ¦½ν•œλ‹€. \(\E(\abs{X}^r)^{1/r} \leq \E(\abs{X}^s)^{1/s}\)

증λͺ… : $p > 1$에 λŒ€ν•΄ $\phi(x) = \abs{x}^p$ 둜 μ  μ„Ό 뢀등식을 μ“°λ©΄ $\E(\abs{X}^p) \leq \E(\abs{X})^p$ μž…λ‹ˆλ‹€.
$p = s / r > 1$ κ³Ό ν™•λ₯ λ³€μˆ˜ $\abs{X}^r$ λ₯Ό 이 μ  μ„Ό 뢀등식에 λŒ€μž…ν•˜λ©΄ 증λͺ… 끝.

정리 : 마λ₯΄μ½”ν”„ 뢀등식 (Markov Inequality)
ν™•λ₯ λ³€μˆ˜ $X$에 λŒ€ν•΄ $\E(\abs{X}^r) < \infty$ 이면, μž„μ˜μ˜ $k$에 λŒ€ν•΄ λ‹€μŒμ΄ μ„±λ¦½ν•œλ‹€. \(\P(\abs{X} \geq k) \leq \E(\abs{X}^r) / k^r\)

증λͺ… : $\P(\abs{X} \geq k) = \E(I_{(\abs{X} \geq k)})$ 둜 μ”λ‹ˆλ‹€. (indicator function) μ΄λ•Œ, $I_{(\abs{X} \geq k)}$에 λŒ€ν•΄ 생각해 보면 μ΄λŠ” λ‹€μ‹œ $I_{(\abs{X} / k \geq 1)}$ κ³Ό κ°™κ³ , 이 ν•¨μˆ˜λŠ” $\abs{X} / k$ κ°€ 1보닀 큰 λΆ€λΆ„μ—μ„œλ§Œ 1μ΄λ―€λ‘œ λ‹€μŒμ΄ μ„±λ¦½ν•©λ‹ˆλ‹€. \(I_{(\abs{X} / k \geq 1)} \leq (\abs{X} / k)^r I_{(\abs{X} / k \geq 1)}\) 양변에 κΈ°λŒ“κ°’μ„ μ”Œμš°λ©΄ 주어진 식이 λ©λ‹ˆλ‹€.

정리 : 체비셰프 뢀등식 (Chebyshev Inequality)
ν™•λ₯ λ³€μˆ˜ $X$에 λŒ€ν•΄ $\V(X) < \infty$ 이면, μž„μ˜μ˜ $k$에 λŒ€ν•΄ λ‹€μŒμ΄ μ„±λ¦½ν•œλ‹€. \(\P(\abs{X - E(X)} \geq k) \leq \V(X) / k^2\)

증λͺ… : μ•žμ„  Markov λΆ€λ“±μ‹μ—μ„œ, $Z = X - E(X)$, $r = 2$λ₯Ό λŒ€μž…ν•©λ‹ˆλ‹€.