Por que as componentes principais são perpendiculares?

A matriz de covariância é simétrica, de modo que os autovetores de autovalores distintos são ortogonais. A análise de componentes principais toma esses vetores como novos eixos.

O que significa o erro de reconstrução?

Se só se deixa a primeira componente, perde-se a dispersão ao longo da segunda que se descarta. A dispersão que resta no segundo eixo é a imagem geométrica do erro de reconstrução de posto 1.

Como a análise de componentes principais se liga à decomposição em valores singulares?

Para uma matriz de dados centrada X, a decomposição X = UΣVᵀ dá as direções principais nas colunas de V, e os quadrados dos valores singulares são as contribuições à variância. A geometria no plano é essa mesma imagem para duas coordenadas.

Geometria de PCA / SVD

Elipse de covariância e redução de dimensão pela decomposição em valores singulares: componentes principais, variância explicada e erro de reconstrução de posto 1.

Os pontos amarelos mostram a reconstrução de posto 1: a projeção dos dados sobre a primeira componente principal.

Gráficos

Sobre o modelo

A geometria de PCA / SVD é a da análise de componentes principais: a nuvem de dados gira para direções ortogonais de máxima variância. No plano aparecem a elipse de covariância, os eixos das componentes principais, as frações de variância explicada e a reconstrução de posto 1 — a projeção dos pontos sobre a primeira componente principal. Para uma matriz de dados centrada, a decomposição em valores singulares X = UΣVᵀ coloca as direções principais nas colunas de V; os quadrados dos valores singulares são as contribuições à variância. A segunda componente que se descarta é, em geometria, o erro de reconstrução.

Para quem: Álgebra linear e análise de dados: decomposição em valores singulares, covariância, redução de dimensão.

Conceitos-chave

análise de componentes principais
decomposição em valores singulares
matriz de covariância
variância explicada
reconstrução de posto 1
componente principal

Como funciona

A PCA busca eixos ortogonais ao longo dos quais a variância é máxima. Para uma matriz de dados centrada X=UΣV^T, os vetores de V dão as componentes principais, e σ_i²/Σσ_j² é a fração de variância explicada. Se só se deixa PC1, cada ponto se projeta sobre uma reta: é a reconstrução de posto 1, e a dispersão perdida ao longo de PC2 vira erro de reconstrução.

Fórmulas principais

X = UΣVᵀ; os autovetores da covariância dão os eixos principais

Razão de variância explicada = σ_i² / Σ σ_j²

Perguntas frequentes

Por que as componentes principais são perpendiculares?: A matriz de covariância é simétrica, de modo que os autovetores de autovalores distintos são ortogonais. A análise de componentes principais toma esses vetores como novos eixos.
O que significa o erro de reconstrução?: Se só se deixa a primeira componente, perde-se a dispersão ao longo da segunda que se descarta. A dispersão que resta no segundo eixo é a imagem geométrica do erro de reconstrução de posto 1.
Como a análise de componentes principais se liga à decomposição em valores singulares?: Para uma matriz de dados centrada X, a decomposição X = UΣVᵀ dá as direções principais nas colunas de V, e os quadrados dos valores singulares são as contribuições à variância. A geometria no plano é essa mesma imagem para duas coordenadas.

Continue com temas próximos desta categoria — ou todos os 85 em «Visualização matemática».

Toda a categoria →

NovoEscola

PCA em 2D

Abrir o simulador

Nuvem no plano: covariância 2×2, autovetores PC1 e PC2 a partir da média, perpendiculares à reta PC1 e faixa de escores na primeira componente.

NovoUniversidade / pesquisa

Integração de Monte Carlo

Abrir o simulador

Método de Monte Carlo ordinário, amostragem por importância e estratificação para ∫f(x) dx: curvas de convergência, erro-padrão e lei 1/√N.

NovoUniversidade / pesquisa

Algoritmo EM: mistura de gaussianas

Abrir o simulador

Algoritmo de esperança-maximização para duas componentes gaussianas: responsabilidades, passos E e M, verossimilhança e elipses de covariância.

NovoUniversidade / pesquisa

Filtro de Kalman: rastreamento 2D

Abrir o simulador

Filtro de velocidade constante em quatro dimensões: medições ruidosas (x,y), ruído de aceleração de processo Q, variância de medição R e elipse de covariância ao vivo ≈2σ.

NovoUniversidade / pesquisa

Gradientes conjugados

Abrir o simulador

Sistema SDP Ax=b como minimização de uma forma quadrática: curvas de nível, gradientes conjugados contra a descida mais íngreme, norma do resíduo e número de condição.

PopularEscola

Soma de vetores

Abrir o simulador

Dois vetores no plano: regra do triângulo e soma das projeções, módulo e direção da resultante.

Geometria de PCA / SVD

Gráficos

Sobre o modelo

Como funciona

Fórmulas principais

Perguntas frequentes

Simuladores relacionados

PCA em 2D

Integração de Monte Carlo

Algoritmo EM: mistura de gaussianas

Filtro de Kalman: rastreamento 2D

Gradientes conjugados

Soma de vetores

Geometria de PCA / SVD

Gráficos

Sobre o modelo

Como funciona

Fórmulas principais

Perguntas frequentes