Loi des grands nombres

Dans cette section, nous allons donner une interprétation de l'espérance d'une variable aléatoire. Supposons que $X_1,\dots,X_n$ sont des variables aléatoires obtenues en répétant $n$ fois la même expérience. Si $\expec{X_i}=\mu$ pour chaque $i$, nous savons par la Proposition 1.3.9 que l'espérance de la moyenne $(X_1+\dots+X_n)/n$ vaut également $\mu$. Mais pouvons-nous affirmer plus, à savoir que la moyenne des $X_i$ a une grande probabilité d'être proche de $\mu$? C'est ce que fait la loi faible des grands nombres. Pour démontrer cette loi, nous devons d'abord prouver l'inégalité de Bienaymé-Chebychev.

D´EMONSTRATION. On a

$$\prob{\abs{X}\geqs a} = \sum_{x\in X(\Omega), \,\abs{x}\geqs a} \prob{X=x} \leqs \sum_{x\in X(\Omega), \,\abs{x}\geqs a} \frac{\abs{x}}a \,\prob{X=x}$$

$$\leqs \frac1a \sum_{x\in X(\Omega)}\abs{x}\,\prob{X=x} = \frac1a \expec{\abs{X}}\;.$$ (1.10)

$\qedsymbol$

D´EMONSTRATION. Soit $Y=\brak{X-\expec{X}}^2$. Il suffit alors d'écrire

$$\bigprob{\abs{X-\expec{X}}\geqs a} = \bigprob{Y\geqs a^2} \leqs \frac1{a^2} \bigexpec{Y} = \frac1{a^2} \Var(X)\;.$$ (1.11)

$\qedsymbol$

Nous remarquons que la probabilité $\prob{\abs{X-\expec{X}}\geqs a}$ devient faible dès que $a^2$ est sensiblement plus grand que la variance de $X$, donc dès que $a$ est sensiblement plus grand que l'écart-type $\sigma(X)$. On dit que $X$ est `` concentrée dans un intervalle d'ordre de grandeur $\sigma(X)$ autour de son espérance''.

D´EMONSTRATION. Par l'inégalité de Bienaymé-Chebychev, on a

$$\biggprob{\biggabs{\frac{S_n}n-\mu}\geqs\eps} \leqs \frac1{\eps^2... ...eps^2n^2} \Var(S_n) = \frac1{\eps^2n^2} n\sigma^2 = \frac{\sigma^2}{n\eps^2}\;,$$ (1.12)

qui tend vers 0 lorsque $n\to\infty$. $\qedsymbol$