Twierdzenie de Moivre’a-Laplace’a

Twierdzenie de Moivre’a-Laplace’a – dwa twierdzenia rachunku prawdopodobieństwa nazywane lokalnym i całkowym (integralnym) wskazujące związek rozkładu dwumianowego (Bernoulliego) z rozkładem normalnym; można traktować go jako szczególny przypadek centralnego twierdzenia granicznego.

Przypadek symetryczny pochodzi z wydrukowanej w 1730 roku pracy Miscellanea analytica de seriebus et quadraturis („Rozmaite analityka o szeregach i kwadraturach”)^[1] od Abrahama de Moivre’a, a niesymetryczny – z opublikowanego w trzy lata później dodatku Miscelaneis analyticis supplementum z 1733 roku; szerszej publiczności twierdzenia zaprezentowane zostały w drugim wydaniu dzieła The Doctrine of Chances: or, a method for calculating the probabilities of events in play („Doktryna szans: lub, metoda obliczania prawdopodobieństw zdarzeń w grze”) z 1738 roku. Twierdzenie w pełnej ogólności udowodnił Pierre Simon de Laplace w pracy Théorie analytique des probabilités („Analityczna teoria prawdopodobieństw”) z 1812 roku, który nie miał w zwyczaju powoływać się na źródła – z tego powodu do XX wieku prace Moivre’a były szerzej nieznane^[2].

Twierdzenia de Moivre’a-Laplace’a[edytuj | edytuj kod]

Zobacz też: rozkład dwumianowy i rozkład normalny.

Oznaczenia

Niech $B(n,p)$ oznacza rozkład dwumianowy dla procesu Bernoulliego, w którym prawdopodobieństwo osiągnięcia dokładnie $k$ sukcesów o prawdopodobieństwie $p$ w $n$ próbach dane jest wzorem

$B_{k}(n,p)=\mathbb {P} (S_{n}=k)={\tbinom {n}{k}}p^{k}q^{n-k},$

gdzie $q=1-p$ jest prawdopodobieństwem porażki, a $S_{n}$ oznacza liczbę sukcesów; ponadto niech $\mu =np$ oraz $\sigma ={\sqrt {npq}}$ oznaczają odpowiednio wartość oczekiwaną i odchylenie standardowe tego rozkładu.: Rozpatrywana będzie unormowana wersja powyższego rozkładu, tzn. jego wartość oczekiwana będzie równa zeru, a jego wariancja (odchylenie standardowe) będzie jednostkowa, czyli zamiast liczby sukcesów $S_{n}$ rozważana będzie jej unormowana wersja $S_{n}^{*}={\frac {S_{n}-\mu }{\sigma }}.$ W związku z tym niżej stosowane będą również następujące oznaczenia: $h={\frac {1}{\sigma }}$ to szerokość przedziału klasowego, $k^{*}={\frac {k-\mu }{\sigma }}$ to unormowane odchylenie liczby sukcesów od średniej; wygodnie będzie zakładać, że $k$ nie musi być naturalne – w szczególności $k_{\pm }=k\pm {\frac {1}{2}},$ skąd $k_{\pm }^{*}=k\pm {\frac {1}{2}}h.$; Funkcja $\varphi (t)={\frac {1}{\sqrt {2\pi }}}\exp \left(-{\frac {t^{2}}{2}}\right)$ będzie oznaczać gęstość unormowanego rozkładu normalnego $N(0,1)$ o dystrybuancie $\Phi ,$ podczas gdy $\varphi _{*}(t)=h\varphi (t^{*})={\frac {1}{\sigma {\sqrt {2\pi }}}}\exp \left(-{\frac {(t-\mu )^{2}}{2\sigma ^{2}}}\right)$ będzie oznaczać gęstość rozkładu normalnego $N(\mu ,\sigma )$ o dystrybuancie $\Phi _{*}(x)=\Phi (x^{*}).$

Twierdzenie lokalne

Jeżeli $h|k^{*}|\max(p,q)\leqslant {\frac {1}{2}},$ to

$B_{k}(n,p)=h\varphi (k^{*})\cdot e^{R(n,k)},$

gdzie

${\big |}R(n,k){\big |}\leqslant {\tfrac {3}{4}}|k^{*}|h+{\tfrac {1}{3}}|k^{*}|^{3}h+{\tfrac {1}{3n}}.$

W szczególności $R(n,k)\to 0$ dla $n,k\to \infty ,$ czyli

$\mathbb {P} (S_{n}=k)\sim \varphi _{*}(k).$

Twierdzenie całkowe

Jeżeli $h\max {\big (}|a^{*}|,|b^{*}|{\big )}\max(p,q)\leqslant {\frac {1}{2}},$ to

$\mathbb {P} (a\leqslant S_{n}\leqslant b)={\Big (}\Phi \!\left(b_{+}^{*}\right)-\Phi \!\left(a_{-}^{*}\right)\!\!{\Big )}\cdot e^{D(n,a,b)},$

gdzie

${\big |}D(n,a,b){\big |}\leqslant \max _{k\in \{a,b\}}{\Big (}{\tfrac {5}{4}}|k^{*}|h+{\tfrac {1}{3}}|k^{*}|^{3}h{\Big )}+{\tfrac {1}{3n}}+{\tfrac {1}{8}}h^{2}.$

W szczególności $D(n,a,b)\to 0$ dla $n\to \infty$ oraz $a,b$ zmieniających się tak, by $h(a^{*})^{3},\ h(b^{*})^{3}\to 0,$ jest wtedy

$\mathbb {P} (a\leqslant S_{n}\leqslant b)\sim \Phi _{*}(b_{+})-\Phi _{*}(a_{-});$

zachodzi również następujące, mniej dokładne, ale prostsze, a przez to częściej stosowane, przybliżenie:

\mathbb {P} (a\leqslant S_{n}\leqslant b)\sim \Phi _{*}(b)-\Phi _{*}(a).

W zastosowaniach najczęściej spotyka się następujący wniosek z twierdzenia całkowego:

Wniosek

Jeżeli $a^{*},b^{*}$ są stałe, to

$\mathbb {P} (a^{*}\leqslant S_{n}^{*}\leqslant b^{*})\sim \Phi \!\left(b_{+}^{*}\right)-\Phi \!\left(a_{-}^{*}\right).$

Przykłady[edytuj | edytuj kod]

Liczebność próby

Twierdzenie de Moivre’a-Laplace’a można wykorzystać do określenia minimalnej liczebności próby losowej z danej populacji w danym badaniu mającym na celu jak najbardziej miarodajne oszacowanie danej obserwacji, która zachodzi z pewnym prawdopodobieństwem, bądź nie (tj. zachodzącej zgodnie z rozkładem zero-jedynkowym). Przykładowo: w badaniu przesiewowym choroby, która jest na tyle rzadka, że nie choruje na nią więcej niż

0{,}5\%

populacji, przy czym błąd ma być mniejszy niż

0{,}001

z prawdopodobieństwem

0{,}95,

w celu wskazania chorych z ustaloną pewnością należałoby wybrać próbę co najmniej

19\,112

-osobową^[3].

Reguła 3σ

Opierając się na twierdzeniu całkowym można się spodziewać, że reguła trzech sigm sformułowana dla rozkładu normalnego zachodzi również dla procesu Bernoulliego. Jedną z jej wersji jest

$\mathbb {P} {\big (}S_{n}\in (\mu -3\sigma ,\mu +3\sigma ){\big )}\geqslant 0{,}997,$

o ile $\mu -3\sigma >0$ oraz $\mu +3\sigma <n,$ co można krótko zapisać $n>9\max \left({\frac {p}{q}},{\frac {q}{p}}\right)$ ^[4].

Przypisy[edytuj | edytuj kod]

↑ W pracy, którą autor przekazał jedynie kilku znajomym, pojawia się wzór postaci $n!\sim C{\sqrt {n}}n^{n}e^{-n},$ gdzie $\ln C=1-{\frac {1}{12}}+{\frac {1}{360}}-{\frac {1}{1260}}+{\frac {1}{1680}}-\dots ,$ który posłużył do wyprowadzenia opisanych w tym artykule twierdzeń, znany obecnie jako wzór Stirlinga, przy czym James Stirling zauważył jedynie, że $C={\sqrt {2\pi }},$ o czym autor wspomina w drugim wydaniu tej pracy 1933 roku z dwoma dodatkami.
↑ Szczegóły można znaleźć w artykułach Raymonda Clare Archibalda i Karla Pearsona z 1926 roku zebranych w tej pracy.
↑ Skoro $p$ oznacza prawdopodobieństwo zapadnięcia jednostki na daną chorobą, a ${\frac {S_{n}}{n}}$ jest oszacowaniem procenta chorych w populacji, to $\mathbb {P} {\big (}\left|{\frac {S_{n}}{n}}-p\right|\leqslant 0{,}001{\big )}\geqslant 0{,}95,$ skąd $\mathbb {P} {\big (}|S_{n}^{*}|\leqslant 0{,}001{\sqrt {\frac {n}{pq}}}{\big )}\geqslant 0{,}95.$ W tablicach statystycznych można znaleźć, iż $\Phi (1{,}96)=0{,}975$ (gdyż wtedy $\Phi (1{,}96)-\Phi (-1{,}96)=0{,}95$ ), dlatego $n$ powinno spełniać warunek ${\sqrt {n}}\geqslant 1{,}96\cdot 1000{\sqrt {pq}},$ a ponieważ $p\leqslant 0{,}005,$ to $pq$ przyjmuje największą wartość dla $p=0{,}005,$ zatem $n\geqslant 19\,112.$
↑ Dla przypadku symetrycznego $p=q={\frac {1}{2}}$ oznacza to, że $n\geqslant 10;$ w przypadku $n=10$ prawdopodobieństwo wynosi ${\frac {1022}{1024}}\approx 0{,}99805;$ liczbę $0{,}997$ wzięto zapewne od popularnego oszacowania dla rozkładu normalnego, dla którego $\Phi (3)-\Phi (-3)=0{,}9973\dots$ Twierdzenie to można wzmacniać korzystając z wyników w rodzaju nierówności Bernsteina.

[1] W pracy, którą autor przekazał jedynie kilku znajomym, pojawia się wzór postaci $n!\sim C{\sqrt {n}}n^{n}e^{-n},$ gdzie $\ln C=1-{\frac {1}{12}}+{\frac {1}{360}}-{\frac {1}{1260}}+{\frac {1}{1680}}-\dots ,$ który posłużył do wyprowadzenia opisanych w tym artykule twierdzeń, znany obecnie jako wzór Stirlinga, przy czym James Stirling zauważył jedynie, że $C={\sqrt {2\pi }},$ o czym autor wspomina w drugim wydaniu tej pracy 1933 roku z dwoma dodatkami.

[2] Szczegóły można znaleźć w artykułach Raymonda Clare Archibalda i Karla Pearsona z 1926 roku zebranych w tej pracy.

[3] Skoro $p$ oznacza prawdopodobieństwo zapadnięcia jednostki na daną chorobą, a ${\frac {S_{n}}{n}}$ jest oszacowaniem procenta chorych w populacji, to $\mathbb {P} {\big (}\left|{\frac {S_{n}}{n}}-p\right|\leqslant 0{,}001{\big )}\geqslant 0{,}95,$ skąd $\mathbb {P} {\big (}|S_{n}^{*}|\leqslant 0{,}001{\sqrt {\frac {n}{pq}}}{\big )}\geqslant 0{,}95.$ W tablicach statystycznych można znaleźć, iż $\Phi (1{,}96)=0{,}975$ (gdyż wtedy $\Phi (1{,}96)-\Phi (-1{,}96)=0{,}95$ ), dlatego $n$ powinno spełniać warunek ${\sqrt {n}}\geqslant 1{,}96\cdot 1000{\sqrt {pq}},$ a ponieważ $p\leqslant 0{,}005,$ to $pq$ przyjmuje największą wartość dla $p=0{,}005,$ zatem $n\geqslant 19\,112.$

[4] Dla przypadku symetrycznego $p=q={\frac {1}{2}}$ oznacza to, że $n\geqslant 10;$ w przypadku $n=10$ prawdopodobieństwo wynosi ${\frac {1022}{1024}}\approx 0{,}99805;$ liczbę $0{,}997$ wzięto zapewne od popularnego oszacowania dla rozkładu normalnego, dla którego $\Phi (3)-\Phi (-3)=0{,}9973\dots$ Twierdzenie to można wzmacniać korzystając z wyników w rodzaju nierówności Bernsteina.

[1]

[2]

[3]

[4]