O que o núcleo determina?

A correlação entre os valores da função em dois pontos de entrada. Uma escala de comprimento pequena deixa a curva mudar bruscamente entre observações próximas; uma grande impõe tendências suaves e largas. Os núcleos de Matérn são menos suaves que o RBF.

Por que a incerteza cai perto das observações?

A normal condicional aos valores observados reduz com mais força a variância a posteriori junto desses pontos. O ruído de observação, se não for nulo, impede que a incerteza se feche por completo e que a média passe exatamente por cada ponto.

A escolha pelo máximo da variância é sempre ótima?

Não. É uma estratégia simples de exploração: ir ao lugar em que o modelo está menos seguro. Na otimização bayesiana a incerteza costuma ser misturada com a melhoria esperada, o custo da medida e as restrições do problema.

Regressão por processo gaussiano

Regressão por processo gaussiano com núcleos RBF e de Matérn: comprimento de correlação e ruído, observações por clique, média a posteriori, faixa de incerteza e escolha do ponto de maior variância.

Sobre o modelo

A regressão por processo gaussiano trata a função desconhecida como aleatória: quaisquer valores seus têm distribuição normal conjunta, determinada por um núcleo. Os pontos entram por clique; a distribuição a posteriori é recalculada a partir de K(X,X)+σ_n²I pela decomposição de Cholesky. A curva azul é a média a posteriori μ(x), a faixa semitransparente é a incerteza de cerca de 95% μ(x)±2σ(x), e os pontos amarelos são as observações. O núcleo RBF impõe um a priori muito suave; Matérn 3/2 e 5/2 admitem funções mais irregulares. O botão de amostragem ativa coloca, de forma gulosa, o ponto de maior σ a posteriori — escolha do experimento pela incerteza.

Para quem: Estatística e aprendizado de máquina: núcleos, incerteza a posteriori, amostragem ativa de pontos.

Conceitos-chave

processo gaussiano
regressão
núcleo
núcleo RBF
núcleo de Matérn
média a posteriori
faixa de incerteza
decomposição de Cholesky

Como funciona

A regressão por processo gaussiano define uma distribuição a priori sobre funções por meio de um núcleo. As observações dão a média a posteriori μ(x) e a incerteza σ(x) a partir de K(X,X)+σ_n²I; o RBF é suave, o de Matérn admite funções mais irregulares. A amostragem ativa escolhe o ponto de maior variância a posteriori.

Fórmulas principais

K_y = K(X,X)+σ_n²I, posterior μ(x*) = k_*ᵀK_y⁻¹y, σ²(x*) = k(x*,x*) − k_*ᵀK_y⁻¹k_*. Active rule: argmax σ(x).

Perguntas frequentes

O que o núcleo determina?: A correlação entre os valores da função em dois pontos de entrada. Uma escala de comprimento pequena deixa a curva mudar bruscamente entre observações próximas; uma grande impõe tendências suaves e largas. Os núcleos de Matérn são menos suaves que o RBF.
Por que a incerteza cai perto das observações?: A normal condicional aos valores observados reduz com mais força a variância a posteriori junto desses pontos. O ruído de observação, se não for nulo, impede que a incerteza se feche por completo e que a média passe exatamente por cada ponto.
A escolha pelo máximo da variância é sempre ótima?: Não. É uma estratégia simples de exploração: ir ao lugar em que o modelo está menos seguro. Na otimização bayesiana a incerteza costuma ser misturada com a melhoria esperada, o custo da medida e as restrições do problema.

Continue com temas próximos desta categoria — ou todos os 85 em «Visualização matemática».

Toda a categoria →

NovoUniversidade / pesquisa

Filtro de Kalman: rastreamento 2D

Abrir o simulador

Filtro de velocidade constante em quatro dimensões: medições ruidosas (x,y), ruído de aceleração de processo Q, variância de medição R e elipse de covariância ao vivo ≈2σ.

NovoUniversidade / pesquisa

Filtro de Kalman (1D)

Abrir o simulador

Estimação ótima recursiva: medições ruidosas, verdade oculta, previsão e correção com Q e R; passeio aleatório ou velocidade constante, faixa ±2σ e inovações.

NovoUniversidade / pesquisa

Integração de Monte Carlo

Abrir o simulador

Método de Monte Carlo ordinário, amostragem por importância e estratificação para ∫f(x) dx: curvas de convergência, erro-padrão e lei 1/√N.

NovoUniversidade / pesquisa

Máquina de vetores de suporte (margem)

Abrir o simulador

Margem rígida e suave: penalidade C, função de perda hinge, vetores de suporte, fronteira de decisão e faixas da margem.

NovoUniversidade / pesquisa

Filtro adaptativo LMS

Abrir o simulador

Canal primário p = s + v, em que v é um FIR desconhecido do ruído branco de referência x[n]. FIR adaptativo de L taps com LMS ou NLMS: o erro e = p − wᵀx tende ao sinal útil s.

NovoUniversidade / pesquisa

Geometria de PCA / SVD

Abrir o simulador

Elipse de covariância e redução de dimensão pela decomposição em valores singulares: componentes principais, variância explicada e erro de reconstrução de posto 1.

Regressão por processo gaussiano

Sobre o modelo

Como funciona

Fórmulas principais

Perguntas frequentes

Simuladores relacionados

Filtro de Kalman: rastreamento 2D

Filtro de Kalman (1D)

Integração de Monte Carlo

Máquina de vetores de suporte (margem)

Filtro adaptativo LMS

Geometria de PCA / SVD

Regressão por processo gaussiano

Sobre o modelo

Como funciona

Fórmulas principais

Perguntas frequentes