Pourquoi élever les résidus au carré plutôt que de prendre les valeurs absolues ?

Le carré pénalise plus fortement les grands écarts, et la fonction S(a, b) est partout dérivable, de sorte que les équations normales donnent une solution explicite. La somme des modules (moindres écarts absolus) est licite aussi, mais demande en général des itérations et n’a pas de formule aussi simple.

Pourquoi la droite passe-t-elle toujours par (x̄, ȳ) ?

C’est la structure des équations normales du modèle linéaire simple : l’ordonnée à l’origine est choisie pour que la prévision moyenne coïncide avec la moyenne de la réponse. Le barycentre du nuage est sur la droite des moindres carrés.

Où en a-t-on besoin en TP de physique ?

Pour déterminer g à partir de s(t) bruité, pour étalonner un capteur, pour vérifier une loi linéaire. Chaque fois que l’on trace une droite de « meilleur ajustement » sur un nuage, c’est le plus souvent la méthode des moindres carrés.

Quand le modèle linéaire ment-il ?

Si la vraie tendance est courbe (carré, exponentielle), la droite donne une erreur systématique. Le modèle suppose aussi une dispersion constante selon y et des points indépendants ; en cas d’hétéroscédasticité ou de valeurs aberrantes, les estimations se déplacent.

Méthode des moindres carrés

Points bruités et droite y = ax + b qui minimise la somme des carrés des résidus verticaux. On fait varier la pente, l’ordonnée à l’origine et le bruit : résidus et somme des carrés des erreurs.

À propos du modèle

La méthode des moindres carrés cherche la droite qui approche le mieux un nuage de points au sens de la somme des carrés des écarts verticaux. Pour le modèle y = ax + b, on minimise S(a, b) = Σ(y_i − ax_i − b)². Les dérivées partielles par rapport à a et b, égalées à zéro, donnent les équations normales ; on en tire les uniques estimations de la pente et de l’ordonnée à l’origine. La droite passe toujours par le barycentre du nuage (x̄, ȳ). On suppose une tendance linéaire, toute l’incertitude étant portée par l’axe y. À l’écran : la droite le long de laquelle les points sont dispersés, la droite ajustée et les résidus verticaux. On fait varier le nombre de points, l’amplitude du bruit et les paramètres de tirage.

Public : Terminale et début de licence : statistique, traitement de mesures, approximation par une droite.

Notions clés

méthode des moindres carrés
régression linéaire
résidu
coefficient directeur
ordonnée à l’origine
somme des carrés des erreurs
équations normales

Comment ça marche

La méthode des moindres carrés minimise S(a, b) = Σ(y_i − ax_i − b)². Les équations normales donnent la pente a et l’ordonnée à l’origine b ; la droite passe par (x̄, ȳ). À l’écran, la droite jaune est l’estimation, les segments rouges sont les résidus verticaux, la bleue est la « vraie » droite le long de laquelle les points sont dispersés.

Questions fréquentes

Pourquoi élever les résidus au carré plutôt que de prendre les valeurs absolues ?: Le carré pénalise plus fortement les grands écarts, et la fonction S(a, b) est partout dérivable, de sorte que les équations normales donnent une solution explicite. La somme des modules (moindres écarts absolus) est licite aussi, mais demande en général des itérations et n’a pas de formule aussi simple.
Pourquoi la droite passe-t-elle toujours par (x̄, ȳ) ?: C’est la structure des équations normales du modèle linéaire simple : l’ordonnée à l’origine est choisie pour que la prévision moyenne coïncide avec la moyenne de la réponse. Le barycentre du nuage est sur la droite des moindres carrés.
Où en a-t-on besoin en TP de physique ?: Pour déterminer g à partir de s(t) bruité, pour étalonner un capteur, pour vérifier une loi linéaire. Chaque fois que l’on trace une droite de « meilleur ajustement » sur un nuage, c’est le plus souvent la méthode des moindres carrés.
Quand le modèle linéaire ment-il ?: Si la vraie tendance est courbe (carré, exponentielle), la droite donne une erreur systématique. Le modèle suppose aussi une dispersion constante selon y et des points indépendants ; en cas d’hétéroscédasticité ou de valeurs aberrantes, les estimations se déplacent.

Poursuivez avec des thèmes proches de cette catégorie — ou les 85 de «Visualisation mathématique».

Toute la catégorie →

NouveauCollège–lycée

Régression linéaire : MCO, ridge, lasso et R²

Lancer la simulation

Points du plan et modèle y = β₀ + β₁x : moindres carrés ordinaires (MCO), ridge (pénalité L₂ sur la pente) ou lasso (pénalité L₁). Le décalage Δy du point de plus grand |x| est une valeur aberrante à fort levier ; on compare SSE et R².

NouveauCollège–lycée

Lissage de Savitzky–Golay

Lancer la simulation

Cosinus bruité et convolution SG(7,2) : le filtre polynomial conserve mieux les pics qu’une large fenêtre rectangulaire.

NouveauCollège–lycée

k-moyennes (algorithme de Lloyd)

Lancer la simulation

Points du plan, nombre de classes k et centroïdes de départ. Un pas de Lloyd : affectation au centre le plus proche et déplacement du centroïde au barycentre. Démonstration : mélange de gaussiennes ; somme des carrés intra-classes.

NouveauCollège–lycée

Matrice 2×2 et vecteurs propres

Lancer la simulation

Application linéaire du plan par une matrice M : le quadrillage carré devient un réseau de parallélogrammes. Pour des λ réelles — flèches le long des directions invariantes.

NouveauCollège–lycée

Lotka–Volterra

Lancer la simulation

Modèle classique proie–prédateur : N′ = αN − βNP, P′ = δNP − γP. Plan de phase, intégration de Runge–Kutta, point d’équilibre (γ/δ, α/β).

NouveauCollège–lycée

Marche aléatoire

Lancer la simulation

Pas sur une droite ou dans le plan : trajectoire et moyenne cumulée ⟨r²⟩ comme schéma de la diffusion.

Méthode des moindres carrés

À propos du modèle

Comment ça marche

Questions fréquentes

Simulations voisines

Régression linéaire : MCO, ridge, lasso et R²

Lissage de Savitzky–Golay

k-moyennes (algorithme de Lloyd)

Matrice 2×2 et vecteurs propres

Lotka–Volterra

Marche aléatoire

Méthode des moindres carrés

À propos du modèle

Comment ça marche

Questions fréquentes