A redução de variância melhora a lei 1/√N?

Nos estimadores de Monte Carlo independentes ordinários a lei assintótica continua 1/√N. A redução de variância abaixa a constante, de modo que com o mesmo N o erro pode ser bem menor.

Quando a amostragem por importância ajuda?

Quando a densidade q(x) coloca pontos onde o aporte de f(x) é grande e os pesos f(x)/q(x) não oscilam demais. Uma q ruim pode, ao contrário, aumentar a variância.

Em que a estratificação difere da amostragem ordinária?

A estratificação parte o domínio em camadas e toma pontos em cada uma, de modo que a cobertura fica mais uniforme e a variância da média costuma ser menor do que numa amostragem uniforme totalmente independente.

Integração de Monte Carlo

Método de Monte Carlo ordinário, amostragem por importância e estratificação para ∫f(x) dx: curvas de convergência, erro-padrão e lei 1/√N.

Os três estimadores são não viesados para esta integral unidimensional, mas a variância deles difere. A amostragem por importância ajuda quando q(x) se parece com a forma do integrando; a estratificação reduz o aglomerado aleatório ao obrigar as amostras a cobrir o intervalo inteiro.

Gráficos

Sobre o modelo

A integração de Monte Carlo estima ∫f(x) dx como a média em pontos aleatórios; o erro típico cai como 1/√N. Comparam-se três estimadores não viesados de uma integral unidimensional: a amostragem uniforme ordinária, a amostragem por importância com densidade q(x) em forma de envoltória exponencial e a estratificação, que força a cobertura dos subintervalos. O gráfico de convergência mostra o erro absoluto contra N; o erro-padrão mostra como a redução de variância muda o fator à frente da mesma lei assintótica 1/√N. A amostragem por importância ajuda quando q se parece com a forma do integrando e os pesos f/q não oscilam demais; a estratificação reduz os vãos ao acaso. A lei 1/√N com amostras independentes permanece — o que cai é a constante da variância.

Para quem: Métodos numéricos e estatística computacional: estimação de integrais e incerteza.

Conceitos-chave

método de Monte Carlo
amostragem por importância
estratificação
erro-padrão
lei 1/√N
estimador não viesado

Como funciona

O método de Monte Carlo troca a integral por uma média: I=∫_0^1 f(x)dx≈(1/N)Σf(U_i), em que os U_i são uniformes; o erro do MC ordinário cai aproximadamente como 1/√N. A amostragem por importância toma amostras de uma densidade q(x) e usa pesos f(x)/q(x) para cair com mais frequência nas regiões que importam. A amostragem estratificada parte o intervalo em estratos e amostra dentro de cada um, o que reduz vãos e aglomerados ao acaso. Os dois recursos em geral abaixam a constante da variância sem mudar a própria lei assintótica.

Fórmulas principais

MC ordinário: I ≈ (1/N) Σ f(U_i), U_i ~ Uniform(0,1)

Importância: I = E_q[f(X)/q(X)], estratificado: amostragem dentro de cada intervalo

Perguntas frequentes

A redução de variância melhora a lei 1/√N?: Nos estimadores de Monte Carlo independentes ordinários a lei assintótica continua 1/√N. A redução de variância abaixa a constante, de modo que com o mesmo N o erro pode ser bem menor.
Quando a amostragem por importância ajuda?: Quando a densidade q(x) coloca pontos onde o aporte de f(x) é grande e os pesos f(x)/q(x) não oscilam demais. Uma q ruim pode, ao contrário, aumentar a variância.
Em que a estratificação difere da amostragem ordinária?: A estratificação parte o domínio em camadas e toma pontos em cada uma, de modo que a cobertura fica mais uniforme e a variância da média costuma ser menor do que numa amostragem uniforme totalmente independente.

Continue com temas próximos desta categoria — ou todos os 85 em «Visualização matemática».

Toda a categoria →

NovoUniversidade / pesquisa

Geometria de PCA / SVD

Abrir o simulador

Elipse de covariância e redução de dimensão pela decomposição em valores singulares: componentes principais, variância explicada e erro de reconstrução de posto 1.

NovoCrianças

Monte Carlo: estimativa de π

Abrir o simulador

Pontos aleatórios uniformes num quadrado; estimativa π ≈ 4·(pontos no círculo)/N.

NovoUniversidade / pesquisa

Regressão por processo gaussiano

Abrir o simulador

Regressão por processo gaussiano com núcleos RBF e de Matérn: comprimento de correlação e ruído, observações por clique, média a posteriori, faixa de incerteza e escolha do ponto de maior variância.

NovoUniversidade / pesquisa

Atualização bayesiana

Abrir o simulador

Atualização beta-binomial: curvas das distribuições a priori e a posteriori, probabilidade preditiva a posteriori e intervalos de credibilidade.

NovoUniversidade / pesquisa

Otimizadores de gradiente descendente

Abrir o simulador

Comparação de SGD, momento e Adam num relevo bidimensional da função de perda: taxa de aprendizado, curvatura, estabilidade e trajetórias das iterações.

NovoUniversidade / pesquisa

Método da potência (autovalor)

Abrir o simulador

Convergência rumo ao autovetor dominante: razão da separação espectral, quociente de Rayleigh, resíduo e iterações normalizadas.

Integração de Monte Carlo

Gráficos

Sobre o modelo

Como funciona

Fórmulas principais

Perguntas frequentes

Simuladores relacionados

Geometria de PCA / SVD

Monte Carlo: estimativa de π

Regressão por processo gaussiano

Atualização bayesiana

Otimizadores de gradiente descendente

Método da potência (autovalor)

Integração de Monte Carlo

Gráficos

Sobre o modelo

Como funciona

Fórmulas principais

Perguntas frequentes