Pourquoi les composantes principales sont-elles perpendiculaires ?

La matrice de covariance est symétrique, donc les vecteurs propres associés à des valeurs propres distinctes sont orthogonaux. L’ACP prend ces vecteurs comme nouveaux axes.

Que signifie l’erreur de reconstruction ?

Si l’on ne garde que la première composante, la dispersion le long de la deuxième, écartée, est perdue. La dispersion restante sur le second axe est l’image géométrique de l’erreur de reconstruction de rang 1.

Géométrie ACP / SVD

Ellipse de covariance et réduction de dimension via la décomposition en valeurs singulières : composantes principales, variance expliquée et erreur de reconstruction de rang 1.

Les points jaunes montrent la reconstruction de rang 1 : projection des données sur la première composante principale.

Graphiques

À propos du modèle

La géométrie de l’ACP et de la SVD se lit sur le nuage : l’analyse en composantes principales le fait tourner vers des directions orthogonales de variance maximale. Dans le plan, on voit l’ellipse de covariance, les axes des composantes principales, les parts de variance expliquée et la reconstruction de rang 1 — la projection des points sur la première composante principale. Pour une matrice de données centrée, la décomposition en valeurs singulières X = UΣVᵀ donne les directions principales dans les colonnes de V, et les carrés des valeurs singulières sont les contributions à la variance. La deuxième composante écartée est, géométriquement, l’erreur de reconstruction.

Public : Algèbre linéaire et analyse de données : décomposition en valeurs singulières, covariance, réduction de dimension.

Notions clés

analyse en composantes principales
décomposition en valeurs singulières
matrice de covariance
variance expliquée
reconstruction de rang 1
composante principale

Comment ça marche

L’ACP cherche des axes orthogonaux le long desquels la variance est maximale. Pour une matrice de données centrée X=UΣV^T, les vecteurs de V donnent les composantes principales, et σ_i²/Σσ_j² est la part de variance expliquée. Si l’on ne garde que la première composante, chaque point se projette sur une droite : c’est la reconstruction de rang 1, et la dispersion perdue le long de la deuxième devient l’erreur de reconstruction.

Formules

X = UΣVᵀ ; les vecteurs propres de la covariance donnent les axes principaux

Part de variance expliquée = σ_i² / Σ σ_j²

Questions fréquentes

Pourquoi les composantes principales sont-elles perpendiculaires ?: La matrice de covariance est symétrique, donc les vecteurs propres associés à des valeurs propres distinctes sont orthogonaux. L’ACP prend ces vecteurs comme nouveaux axes.
Que signifie l’erreur de reconstruction ?: Si l’on ne garde que la première composante, la dispersion le long de la deuxième, écartée, est perdue. La dispersion restante sur le second axe est l’image géométrique de l’erreur de reconstruction de rang 1.
Comment l’ACP se relie-t-elle à la décomposition en valeurs singulières ?: Pour une matrice de données centrée X, la décomposition X = UΣVᵀ donne les directions principales dans les colonnes de V, et les carrés des valeurs singulières sont les contributions à la variance. La géométrie dans le plan est cette même image à deux coordonnées.

Poursuivez avec des thèmes proches de cette catégorie — ou les 85 de «Visualisation mathématique».

Toute la catégorie →

NouveauCollège–lycée

ACP en 2D : composantes principales

Lancer la simulation

Nuage dans le plan : covariance 2×2, vecteurs propres CP1 et CP2 partant de la moyenne, perpendiculaires à la droite CP1 et bande des coordonnées sur la première composante.

NouveauUniversité

Monte-Carlo : intégration et réduction de variance

Lancer la simulation

Monte-Carlo ordinaire, échantillonnage préférentiel et stratification pour ∫f(x) dx : courbes de convergence, erreur-type et loi en 1/√N.

NouveauUniversité

Algorithme EM : mélange de gaussiennes

Lancer la simulation

Algorithme d’espérance-maximisation pour deux composantes gaussiennes : responsabilités, étapes E et M, vraisemblance et ellipses de covariance.

NouveauUniversité

Filtre de Kalman : poursuite en 2D

Lancer la simulation

Filtre à quatre dimensions, à vitesse constante : mesures bruitées (x,y), bruit d’accélération de processus Q, variance des mesures R et ellipse de covariance ≈2σ en direct.

NouveauUniversité

Méthode du gradient conjugué

Lancer la simulation

Système SDP Ax=b comme minimisation d’une forme quadratique : lignes de niveau, gradient conjugué contre plus grande pente, norme du résidu et conditionnement.

PopulaireCollège–lycée

Addition de vecteurs

Lancer la simulation

Deux vecteurs dans le plan : règle du triangle et addition des projections, norme et direction de la résultante.

Géométrie ACP / SVD

Graphiques

À propos du modèle

Comment ça marche

Formules

Questions fréquentes

Simulations voisines

ACP en 2D : composantes principales

Monte-Carlo : intégration et réduction de variance

Algorithme EM : mélange de gaussiennes

Filtre de Kalman : poursuite en 2D

Méthode du gradient conjugué

Addition de vecteurs

Géométrie ACP / SVD

Graphiques

À propos du modèle

Comment ça marche

Formules

Questions fréquentes