Prawo wielkich liczb

Prawa wielkich liczb - seria twierdzeń matematycznych (jedno z tzw. twierdzeń granicznych), opisujących związek między liczbą wykonywanych doświadczeń a faktycznym prawdopodobieństwem wystąpienia zdarzenia, którego te doświadczenia dotyczą. Najprostsza i historycznie najwcześniejsza postać prawa wielkich liczb to prawo Bernoulliego sformułowane przez szwajcarskiego matematyka Jakoba Bernoulliego w książce Ars Conjectandi (1713). Prawo Bernoulliego orzeka, że:

„Z prawdopodobieństwem dowolnie bliskim 1 można się spodziewać, iż przy dostatecznie wielkiej liczbie prób częstość danego zdarzenia losowego będzie się dowolnie mało różniła od jego prawdopodobieństwa.”

Bernoulli nazwał je „Złotym twierdzeniem”, ale matematycy przyjęli dla niego nazwę „Twierdzenie Bernoulliego”. Dopiero w 1835 roku francuski naukowiec Siméon Denis Poisson opisał je pod nazwą „Prawo wielkich liczb”. Obecnie twierdzenie to znane jest pod nazwami „Twierdzenie Bernoulliego”, jak i „Prawo wielkich liczb”, jednak ta druga nazwa jest częściej stosowana.

Prawa wielkich liczb

Prawo wielkich liczb Bernoulliego

Jeśli $S_n$ oznacza liczbę sukcesów w schemacie Bernoulliego $n$ prób z prawdopodobieństwem sukcesu w pojedynczej próbie równym $p$, to dla każdego $\varepsilon>0$.

$\lim_{n\rightarrow\infty}P\left(\left|\frac{S_n}{n}-p\right| \le \varepsilon \right) = 1$.

Słownie: niezależnie od wyboru szerokości przedziału wokół wartości oczekiwanej, prawdopodobieństwo dla dużych $n$ będzie dowolnie bliskie $1$.

Dowód słabego prawa wielkich liczb opiera się na nierówności Czebyszewa.

Mocne prawo wielkich liczb Bernoulliego mówi, że ciąg $\tfrac{S_n}{n}$ dąży do $p$ prawie na pewno. Dowód tego faktu wykorzystuje nierówność Bernsteina.

Mocne prawo wielkich liczb

Dla ciągów (całkowalnych) zmiennych losowych wprowadza się definicję spełniania przez nich tzw. mocnego (i słabego) prawa wielkich liczb.

Ciąg zmiennych losowych $(\xi_n)_{n\in\mathbb N}$ spełnia mocne prawo wielkich liczb (MPWL), gdy

$\frac{1}{n}\sum_{k=1}^n(\xi_k-E\xi_k) \xrightarrow{p.n.} 0$

Poniższe twierdzenie znane jest jako mocne prawo wielkich liczb Kołmogorowa:

Jeżeli $(\xi_n)_{n\in\mathbb{N}}$ jest ciągiem niezależnych zmiennych losowych całkowalnych z kwadratem oraz

$\sum_{n=1}^\infty \frac{D^2\xi_n}{n^2}<\infty$,

to ciąg $(\xi_n)_{n\in\mathbb{N}}$ spełnia MPWL.

Wynika z niego następujący wniosek: jeżeli $(\xi_n)_{n\in\mathbb{N}}$ jest ciągiem niezależnych zmiennych losowych o tym samym rozkładzie oraz $E|\xi_1|<\infty$, to

$\frac{1}{n}\sum_{k=1}^n\xi_k \xrightarrow{p.n.} E\xi_1$

prawie na pewno.

Twierdzenie Kołmogorowa

W ogólności, jeśli $(a_n)_{n\in\mathbb N}$ jest rosnącym do nieskończoności ciągiem liczb dodatnich, a ponadto zbieżny jest szereg

$\sum_{n=1}^\infty \frac{D^2\xi_n}{a_n^2} ,$

to

$\lim_{n\to\infty}\frac{1}{a_n}\sum_{k=1}^n(\xi_k-E\xi_k)=0$

prawie na pewno.

Dowód twierdzenia opiera się o znane z analizy: lemat Toeplitza i lemat Kroneckera, a także następujący fakt z rachunku prawdopodobieństwa: jeśli $(\xi_n)_{n\in\mathbb N}$ jest ciągiem całkowalnych niezależnych zmiennych losowych całkowalnych z kwadratem oraz szereg

$\sum_{n=1}^\infty D^2\xi_n$

jest zbieżny, to szereg

$\sum_{n=1}^\infty(\xi_n-E\xi_n)$

jest zbieżny prawie na pewno.

Słabe prawo wielkich liczb

Mówimy, że ciąg zmiennych losowych $(\xi_n)_{n\in\mathbb{N}}$ spełnia słabe prawo wielkich liczb (SPWL), gdy

$\lim_{n\to\infty}\frac{1}{n}\sum_{k=1}^n(\xi_k-E\xi_k)=0$

ze względu na prawdopodobieństwo.

Słabe prawo wielkich liczb

Jeżeli $(\xi_n)_{n\in\mathbb{N}}$ jest ciągiem parami niezależnych zmiennych losowych całkowalnych z kwadratami oraz

$\lim_{n\to\infty}\frac{1}{n^2}\sum_{k=1}^n D^2\xi_k=0$,

to ciąg $(\xi_n)_{n\in\mathbb{N}}$ spełnia SPWL. Dowód tego faktu również opiera się o nierówność Czebyszewa.

Zobacz też

• centralne twierdzenie graniczne