Twierdzenie Gliwienki-Cantellego

Twierdzenie Gliwienki-Cantellego – twierdzenie rachunku prawdopodobieństwa opisujące asymptotyczne zachowanie dystrybuanty empirycznej w miarę wzrostu liczebności próby losowej. Zgodnie z tym twierdzeniem dystrybuanta empiryczna zbiega jednostajnie do prawdziwej dystrybuanty prawie na pewno (p.n.). Twierdzenie Gliwienki-Cantellego nazywane jest podstawowym twierdzeniem statystyki matematycznej.

Dystrybuanta empiryczna

Dla niezależnych rzeczywistych zmiennych losowych $X_{1},X_{2},\dots$ o jednakowym rozkładzie określonym dystrybuantą $F(x),$ dystrybuanta empiryczna $X_{1},\dots ,X_{n}$ zdefiniowana jest następująco:

$F_{n}(x)={\frac {1}{n}}\sum _{i=1}^{n}I_{[X_{i},\infty )}(x)={\frac {1}{n}}\left\vert \left\{i\mid X_{i}\leq x,1\leq i\leq n\right\}\right\vert$,

gdzie $I_{C}$ oznacza funkcję charakterystyczną (indykator) zbioru $C.$

Twierdzenie

Niech

$D_{n}=\sup _{-\infty <x<\infty }|F_{n}(x)-F(x)|$.

Jeżeli próba $X_{1},\dots ,X_{n}$ pochodzi z rozkładu o dystrybuancie $F$, to $D_{n}\rightarrow 0$ z prawdopodobieństwem 1, gdy $n\rightarrow \infty$

Dowód

Dla ułatwienia rozważmy ciągłą zmienną losową $X$. Ustalmy $-\infty =x_{0}<x_{1}<\cdots <x_{m-1}<x_{m}=\infty$, aby $F(x_{j})-F(x_{j-1})={\frac {1}{m}}$ dla$j=1,\dots ,m$. Teraz dla każdego $x\in \mathbb {R}$ istnieje $j\in \{1,\dots ,m\}$, takie że $x\in [x_{j-1},x_{j}]$.

${\begin{aligned}F_{n}(x)-F(x)&\leq F_{n}(x_{j})-F(x_{j-1})=F_{n}(x_{j})-F(x_{j})+{\frac {1}{m}},\\F_{n}(x)-F(x)&\geq F_{n}(x_{j-1})-F(x_{j})=F_{n}(x_{j-1})-F(x_{j-1})-{\frac {1}{m}}.\end{aligned}}$

Stąd

$\|F_{n}-F\|_{\infty }=\sup _{x\in \mathbb {R} }|F_{n}(x)-F(x)|\leq \max _{j\in \{1,\dots ,m\}}|F_{n}(x_{j})-F(x_{j})|+{\frac {1}{m}}.$

Ponieważ na podstawie mocnego prawa wielkich liczb ${\textstyle \max _{j\in \{1,\dots ,m\}}|F_{n}(x_{j})-F(x_{j})|\to 0{\text{ p.n.}}}$, możemy zapewnić, że dla dowolnego dodatniego ${\textstyle \varepsilon }$ i dowolnej liczby całkowitej ${\textstyle m}$, takiej że ${\textstyle 1/m<\varepsilon }$, można znaleźć ${\textstyle N}$ taką że dla każdego $n\geq N$, mamy ${\textstyle \max _{j\in \{1,\dots ,m\}}|F_{n}(x_{j})-F(x_{j})|\leq \varepsilon -1/m{\text{ p.n.}}}$ W powiązaniu z powyższym rezultatem, oznacza to dalej, że ${\textstyle \|F_{n}-F\|_{\infty }\leq \varepsilon {\text{ p.n.}}}$, co było do okazania.