Convergence vers l’espérance avec la taille de l’échantillon

Introduction

Lorsqu’on réalise des expériences aléatoires, on cherche à estimer la moyenne théorique \( \mathbb{E}[X] \) d’une variable aléatoire \( X \). La loi des grands nombres et la loi de concentration assurent que, à mesure que la taille de l’échantillon augmente, la moyenne empirique se rapproche de cette espérance.

Variable aléatoire et échantillonnage

Soit \( X_1, X_2, ..., X_n \) un échantillon de \( n \) variables indépendantes et identiquement distribuées (i.i.d.) avec la même loi que \( X \), et dont l’espérance est \( \mathbb{E}[X] \). La moyenne empirique est :

\[ \bar{X}_n = \frac{1}{n} \sum_{i=1}^n X_i \]

Théorème de la loi de la grande nombre (LLN)

La LLN affirme que, lorsque \( n \) tend vers l’infini, la moyenne empirique converge presque sûrement vers l’espérance :

\[ \lim_{n \to \infty} \bar{X}_n = \mathbb{E}[X] \quad \text{(avec une probabilité de 1)} \]

Convergence en moyenne

Plus concrètement, en espérance, la moyenne empirique vérifie :

\[ \mathbb{E}[ |\bar{X}_n - \mathbb{E}[X]| ] \to 0 \quad \text{alors que} \quad n \to \infty \]

Conclusion

En résumé : Plus l’échantillon est grand, plus la moyenne empirique \( \bar{X}_n \) approche de la vraie moyenne \( \mathbb{E}[X] \). Ce comportement est garanti par la loi de la grande nombre, qui justifie la précision croissante des estimations à mesure que l’on augmente la taille de l’échantillon.