Avec des observations indépendantes, la moyenne empirique \(\bar{X}_n\) se rapproche de l'espérance vraie \(\mu\) quand l'échantillon grandit.

Convergence vers l'espérance — loi des grands nombres (niveau Terminale)

Objectifs

Comprendre la moyenne empirique \(\bar{X}_n\) et son lien avec l'espérance \(\mu\).
Voir une inégalité (de Tchebychev) qui contrôle la probabilité d'écart.
Énoncer et illustrer la loi faible des grands nombres (convergence en probabilité).
Savoir faire des estimations numériques simples pour des exemples classiques (pile/face, dé).

Notions clés

Espérance et variance

Définition (rapide) : pour une variable aléatoire \(X\) d'espérance finie, on note \(\mu=\mathbb{E}[X]\) et la variance \(\sigma^2=\mathrm{Var}(X)=\mathbb{E}[(X-\mu)^2]\).

Moyenne empirique

La moyenne empirique est \(\bar{X}_n=\dfrac{1}{n}\sum_{i=1}^n X_i\). Si les \(X_i\) sont iid (mêmes loi, indépendantes) d'espérance \(\mu\) et variance \(\sigma^2\), alors \(\mathbb{E}[\bar{X}_n]=\mu\) et \(\mathrm{Var}(\bar{X}_n)=\dfrac{\sigma^2}{n}\).

Inégalité de Tchebychev

Pour toute variable aléatoire \(Y\) d'espérance \(m\) et variance finie, et pour \(\varepsilon>0\) :

\[\mathbb{P}(|Y-m|\ge\varepsilon) \le \frac{\mathrm{Var}(Y)}{\varepsilon^2}.\]

Appliquée à \(Y=\bar{X}_n\) on obtient :

\[\mathbb{P}\big(|\bar{X}_n-\mu|\ge\varepsilon\big) \le \frac{\mathrm{Var}(\bar{X}_n)}{\varepsilon^2} = \frac{\sigma^2}{n\,\varepsilon^2}.\]

Étape 1 : écrire Tchebychev pour \(Y=\bar{X}_n\).

Étape 2 : remplacer \(\mathrm{Var}(\bar{X}_n)=\sigma^2/n\).

Étape 3 : simplifier pour obtenir le facteur \(1/n\) montrant la décroissance avec la taille de l'échantillon.

Lois des grands nombres (faible)

En utilisant la borne de Tchebychev on conclut que pour tout \(\varepsilon>0\) :

\[\mathbb{P}\big(|\bar{X}_n-\mu|\ge\varepsilon\big) \le \frac{\sigma^2}{n\,\varepsilon^2} \xrightarrow[n\to\infty]{} 0. \]

On dit donc que \(\bar{X}_n\) converge en probabilité vers \(\mu\) : \(\bar{X}_n \xrightarrow{P} \mu\). C'est la loi faible des grands nombres.

Si \(X_i\) sont iid avec variance \(\sigma^2\), que vaut \(\mathrm{Var}(\bar{X}_n)\) ?

\(\dfrac{\sigma^2}{n}\)
\(n\sigma^2\)
\(\sigma\)

La variance d'une moyenne d'indépendantes est la variance individuelle divisée par \(n\).

Illustration — convergence visuelle

Schéma : points \(\bar{X}_n\) pour plusieurs valeurs de \(n\) qui se rapprochent de la ligne \(y=\mu\).

Vous pouvez aussi visualiser la décroissance approximative de l'écart moyen avec le terme en \(1/\sqrt{n}\) ci-dessous (courbe interactive).

Exemples résolus

Exemple 1 — Pile/Face (Bernoulli)

Soit \(X_i\) iid de loi Bernoulli \(p=0.5\). Alors \(\mu=0.5\) et \(\sigma^2=0.25\).

Cherchons une borne sur \(\mathbb{P}(|\bar{X}_n-0.5|\ge 0.1)\) par Tchebychev.

Étape 1 : appliquer Tchebychev à \(\bar{X}_n\) : \(\mathbb{P}(|\bar{X}_n-0.5|\ge 0.1) \le \dfrac{\sigma^2}{n\,0.1^2}.\)

Étape 2 : remplacer \(\sigma^2=0.25\) et \(0.1^2=0.01\) : \(\dfrac{0.25}{n\times 0.01}=\dfrac{25}{n}.\)

Étape 3 : interprétation : pour \(n=100\) la borne vaut \(\dfrac{25}{100}=0.25\), donc la probabilité d'écart au moins 0.1 est au plus 25%.

Voir la solution complète

Calcul résumé :

\[ \mathbb{P}(|\bar{X}_n-0.5|\ge 0.1) \le \frac{\mathrm{Var}(\bar{X}_n)}{0.1^2} = \frac{0.25/n}{0.01}=\frac{25}{n}. \]

Exemple 2 — Lancer d'un dé équilibré

Pour un dé équilibré \(X\in\{1,2,3,4,5,6\}\) on a \(\mu=3.5\) et \(\sigma^2=\dfrac{35}{12}\approx 2.9167\).

Voir la solution (borne pour \(\varepsilon=0.2\))

Application de Tchebychev :

\[ \mathbb{P}(|\bar{X}_n-3.5|\ge 0.2) \le \frac{\sigma^2}{n\times 0.2^2} = \frac{35/12}{n\times 0.04} = \frac{35}{12\times 0.04\,n} = \frac{35}{0.48\,n} \approx \frac{72.9167}{n}. \]

Pour \(n=200\) la borne vaut environ \(0.3646\), donc au plus ~36%.

Si \(\sigma^2\) est fixe, comment varie la borne de Tchebychev lorsqu'on multiplie la taille d'échantillon par 4 ?

Elle reste identique.
Elle est divisée par 2.
Elle est divisée par 4.

La borne contient \(1/n\), donc la multiplier par 4 divise la borne par 4.

Erreurs fréquentes

Confondre convergence en probabilité et convergence presque sûre (la loi faible n'affirme pas la convergence pour chaque réalisation, seulement que la probabilité d'écart tend vers 0).
Penser que Tchebychev donne une estimation serrée : souvent la borne est pessimiste.
Oublier l'hypothèse d'indépendance pour utiliser \(\mathrm{Var}(\bar{X}_n)=\sigma^2/n\).

Que garantit la loi faible des grands nombres ?

Que pour chaque suite observée, \(\bar{X}_n\) converge vers \(\mu\).
Que pour tout \(\varepsilon>0\), \(\mathbb{P}(|\bar{X}_n-\mu|>\varepsilon)\to 0\) quand \(n\to\infty\).
Que la distribution de \(\bar{X}_n\) devient normale pour tout \(n\).

La loi faible donne la convergence en probabilité (option 2). La normalité provient du théorème central limite, pas de la LGN.

Récapitulatif

Points essentiels :

La moyenne empirique \(\bar{X}_n\) est un estimateur de l'espérance \(\mu\).
Si les observations sont iid avec variance finie \(\sigma^2\), alors \(\mathrm{Var}(\bar{X}_n)=\sigma^2/n\) et la concentration s'améliore quand \(n\) augmente.
Tchebychev fournit la borne \(\mathbb{P}(|\bar{X}_n-\mu|\ge\varepsilon)\le\dfrac{\sigma^2}{n\varepsilon^2}\), d'où la loi faible des grands nombres : \(\bar{X}_n\xrightarrow{P}\mu\).

Cartes mémo

Espérance \(\mu\)

Valeur moyenne théorique de la variable aléatoire.

Variance \(\sigma^2\)

Mesure de dispersion autour de \(\mu\), \(\mathrm{Var}(X)=\mathbb{E}[(X-\mu)^2]\).

Moyenne empirique

\(\bar{X}_n=\dfrac{1}{n}\sum_{i=1}^n X_i\) ; estimateur de \(\mu\).

Tchebychev

\(\mathbb{P}(|Y-m|\ge\varepsilon)\le\dfrac{\mathrm{Var}(Y)}{\varepsilon^2}\) — borne générale.

Loi faible des grands nombres

\(\bar{X}_n\xrightarrow{P}\mu\) si iid et \(\mathrm{Var}(X)<\infty\).