Sommes de variables aléatoires et loi des grands nombres : cours de maths Terminale

Un sondeur interroge mille personnes, un casino fait tourner sa roulette des millions de fois, une usine contrôle un échantillon de pièces : à chaque fois, on additionne ou on moyenne beaucoup de résultats aléatoires, et pourtant le résultat final semble étrangement prévisible. Dans ce chapitre, tu apprends à calculer l’espérance et la variance d’une somme de variables aléatoires, tu découvres les inégalités de concentration qui mesurent l’écart à la moyenne, puis tu démontres la loi des grands nombres, qui justifie qu’une fréquence observée se rapproche d’une probabilité. Mathbot te propose même de simuler tout cela en Python !

1. Rappels : espérance, variance, indépendance

Une variable aléatoire X associe un nombre réel à chaque issue d’une expérience aléatoire. Si X prend les valeurs x₁, …, x_r avec les probabilités p_i = P(X = x_i), on retrouve les trois grandeurs de la classe de 1ère.

2. Linéarité de l’espérance

Démonstration. Notons Ω l’ensemble (fini) des issues. L’espérance de X vaut la somme, sur toutes les issues ω, de X(ω) × P(ω). Donc E(X + Y) = Σ (X(ω) + Y(ω)) P(ω) = Σ X(ω)P(ω) + Σ Y(ω)P(ω) = E(X) + E(Y). De même E(aX + b) = Σ (aX(ω) + b) P(ω) = a Σ X(ω)P(ω) + b Σ P(ω) = a E(X) + b, car la somme de toutes les probabilités vaut 1.

3. Variance d’une somme de variables indépendantes

Démonstration de la seconde égalité. On a V(X + Y) = E((X + Y)²) − (E(X) + E(Y))². En développant, E((X + Y)²) = E(X²) + 2E(XY) + E(Y²) et (E(X) + E(Y))² = (E(X))² + 2E(X)E(Y) + (E(Y))². Donc V(X + Y) = V(X) + V(Y) + 2(E(XY) − E(X)E(Y)). Pour des variables indépendantes, E(XY) = E(X)E(Y) (la probabilité de chaque couple se factorise), le dernier terme est nul et V(X + Y) = V(X) + V(Y).

4. Échantillon, somme et moyenne d’un échantillon

Répéter n fois, de façon indépendante, une même expérience (lancer un dé, tirer avec remise, interroger au hasard une personne) fournit un échantillon de taille n.

Justification. Par linéarité, E(S_n) = μ + … + μ = nμ. Par indépendance, V(S_n) = V + … + V = nV. Comme M_n = 1n S_n, on a E(M_n) = 1n × nμ = μ et V(M_n) = (1n)² × nV = Vn.

L’écart-type de la moyenne diminue comme 1√n : pour le dé, il passe de 1,71 (un seul lancer) à 0,171 (cent lancers). La courbe ci-dessous montre cette décroissance.

5. Inégalité de Markov

Démonstration. Dans la somme qui définit E(X) = Σ x_i p_i, tous les termes sont positifs. En ne gardant que les termes pour lesquels x_i ≥ a, on obtient E(X) ≥ (somme des x_ip_i avec x_i ≥ a) ≥ a × (somme des p_i avec x_i ≥ a) = a P(X ≥ a). Il suffit de diviser par a > 0.

6. Inégalité de Bienaymé-Tchebychev

Démonstration. La variable Y = (X − μ)² est positive et E(Y) = V par définition de la variance. L’événement « |X − μ| ≥ δ » est le même que « (X − μ)² ≥ δ² ». L’inégalité de Markov appliquée à Y avec a = δ² donne P(Y ≥ δ²) ≤ Vδ².

Par passage à l’événement contraire : P(|X − μ| < δ) ≥ 1 − Vδ², ce qui signifie que X est dans l’intervalle ]μ − δ ; μ + δ[ avec une probabilité au moins égale à 1 − Vδ².

7. Inégalité de concentration

Appliquons Bienaymé-Tchebychev à la moyenne M_n d’un échantillon, dont on connaît l’espérance μ et la variance Vn.

Démonstration. D’après la partie 4, E(M_n) = μ et V(M_n) = Vn. L’inégalité de Bienaymé-Tchebychev appliquée à M_n donne P(|M_n − μ| ≥ δ) ≤ (V ÷ n) ÷ δ² = Vnδ².

Le graphique suivant compare, pour une pièce équilibrée (V = 0,25) et δ = 0,1, la borne 25n (en orange) à la vraie probabilité P(|F_n − 0,5| ≥ 0,1) (en bleu), calculée avec la loi binomiale. La borne est toujours au-dessus, mais elle décroît elle aussi vers 0.

8. La loi des grands nombres

Démonstration. Pour tout n, 0 ≤ P(|M_n − μ| ≥ δ) ≤ Vnδ² d’après l’inégalité de concentration. Or δ et V sont fixés, donc Vnδ² tend vers 0 quand n tend vers +∞. Le théorème des gendarmes donne le résultat.

Interprétation. Aussi petit que soit l’écart δ choisi, la probabilité que la moyenne observée s’écarte de μ d’au moins δ devient aussi petite que l’on veut quand n est grand. Si les X_i sont des variables de Bernoulli de paramètre p (succès = 1, échec = 0), alors μ = p et M_n est la fréquence de succès : la fréquence observée se rapproche de la probabilité p. C’est ce qui justifie l’estimation d’une probabilité par une fréquence dans une simulation ou un sondage.

Voici trois simulations indépendantes de la moyenne de n lancers d’un dé ; la bande orange représente l’intervalle ]3,25 ; 3,75[ autour de μ = 3,5.

9. Simulations avec Python

La loi des grands nombres se visualise très bien avec un programme. Le module random fournit random.randint(a, b) (entier aléatoire entre a et b inclus) et random.random() (nombre aléatoire de [0 ; 1[).

import random

def moyenne(n):
    somme = 0
    for _ in range(n):
        somme = somme + random.randint(1, 6)
    return somme / n

print(moyenne(10))
print(moyenne(1000))
print(moyenne(100000))

def proba_ecart(n, delta, essais):
    mauvais = 0
    for _ in range(essais):
        if abs(moyenne(n) - 3.5) >= delta:
            mauvais = mauvais + 1
    return mauvais / essais

print(proba_ecart(100, 0.1, 2000))
print(proba_ecart(1000, 0.1, 2000))

À retenir

• Linéarité : E(X + Y) = E(X) + E(Y) et E(aX + b) = aE(X) + b, toujours (sans indépendance).
• V(aX + b) = a²V(X) ; si X et Y sont indépendantes, V(X + Y) = V(X) + V(Y) (et V(X − Y) = V(X) + V(Y)).
• Échantillon de taille n : n variables indépendantes de même loi (μ, V, σ). S_n : espérance nμ, variance nV. M_n = S_n/n : espérance μ, variance V/n, écart-type σ/√n.
• Markov : X ≥ 0 et a > 0 ⇒ P(X ≥ a) ≤ E(X)/a.
• Bienaymé-Tchebychev : P(|X − μ| ≥ δ) ≤ V/δ², donc P(|X − μ| < δ) ≥ 1 − V/δ².
• Concentration : P(|M_n − μ| ≥ δ) ≤ V/(nδ²) ; pour un risque α, il suffit de n ≥ V/(αδ²).
• Loi des grands nombres : pour tout δ > 0, P(|M_n − μ| ≥ δ) tend vers 0 quand n tend vers +∞ ; une fréquence se rapproche de la probabilité.
• La loi des grands nombres concerne la moyenne, pas la somme, et n’a rien d’une loi de compensation.