Verbessert die Varianzreduktion die Rate 1/√N?

Für gewöhnliche unabhängige Monte-Carlo-Schätzungen bleibt die asymptotische Rate 1/√N. Die Varianzreduktion verkleinert die Konstante, daher kann der Fehler bei gleichem N deutlich kleiner sein.

Wann hilft die Stichprobe nach Wichtigkeit?

Wenn die Dichte q(x) die Punkte dorthin legt, wo der Beitrag von f(x) groß ist, und die Gewichte f(x)/q(x) nicht zu stark springen. Eine schlechte q kann die Varianz umgekehrt erhöhen.

Worin unterscheidet sich die Schichtung von der gewöhnlichen Ziehung?

Die Schichtung teilt das Gebiet in Schichten und zieht in jeder Punkte, daher ist die Überdeckung gleichmäßiger und die Varianz des Mittels gewöhnlich kleiner als bei vollständig unabhängiger Gleichverteilung.

Monte-Carlo-Integration und Varianzreduktion

Gewöhnliches Monte-Carlo-Verfahren, Stichprobe nach Wichtigkeit und Schichtung für ∫f(x) dx: Konvergenzkurven, Standardfehler und die Rate 1/√N.

Alle drei Schätzer sind für dieses eindimensionale Integral erwartungstreu, ihre Varianz unterscheidet sich jedoch. Die Stichprobe nach Wichtigkeit hilft, wenn q(x) der Form des Integranden ähnelt; die Schichtung verringert zufälliges Klumpen, indem die Ziehungen das ganze Intervall überdecken.

Diagramme

Zum Modell

Das Monte-Carlo-Verfahren schätzt das Integral ∫f(x) dx als Mittelwert über zufällige Punkte; der typische Fehler fällt wie 1/√N. Verglichen werden drei erwartungstreue Schätzungen eines eindimensionalen Integrals: die gewöhnliche Gleichverteilung, die Stichprobe nach Wichtigkeit mit einer Dichte q(x) als exponentielle Hülle und die Schichtung, die die Teilintervalle zwingend überdeckt. Das Konvergenzdiagramm zeigt den absoluten Fehler gegen N; der Standardfehler zeigt, wie die Varianzreduktion den Vorfaktor bei derselben asymptotischen Rate 1/√N ändert. Die Stichprobe nach Wichtigkeit hilft, wenn q der Form des Integranden nahekommt und die Gewichte f/q nicht zu stark springen; die Schichtung verringert zufällige Lücken. Das Gesetz 1/√N selbst ändert sich bei unabhängigen Ziehungen nicht — kleiner wird die Varianzkonstante.

Für wen: Numerische Verfahren und rechnergestützte Statistik: Integralschätzung und Unsicherheit.

Wichtige Begriffe

monte-carlo-verfahren
stichprobe nach wichtigkeit
schichtung
standardfehler
rate 1/√n
erwartungstreue schätzung

So funktioniert es

Das Monte-Carlo-Verfahren ersetzt das Integral durch ein Mittel: I=∫_0^1 f(x)dx≈(1/N)Σf(U_i), wobei die U_i gleichverteilt sind; der Fehler des gewöhnlichen MC fällt ungefähr wie 1/√N. Die Stichprobe nach Wichtigkeit zieht aus der Dichte q(x) und verwendet die Gewichte f(x)/q(x), um häufiger in die wesentlichen Bereiche zu treffen. Die geschichtete Stichprobe teilt das Intervall in Schichten und zieht innerhalb jeder Schicht, sodass zufällige Lücken und Klumpen seltener werden. Beide Kniffe verkleinern in der Regel die Varianzkonstante, ohne das asymptotische Gesetz selbst zu ändern.

Wichtige Gleichungen

Gewöhnliches MC: I ≈ (1/N) Σ f(U_i), U_i ~ Uniform(0,1)

Wichtigkeit: I = E_q[f(X)/q(X)], geschichtet: Ziehung innerhalb jedes Intervalls

Häufige Fragen

Verbessert die Varianzreduktion die Rate 1/√N?: Für gewöhnliche unabhängige Monte-Carlo-Schätzungen bleibt die asymptotische Rate 1/√N. Die Varianzreduktion verkleinert die Konstante, daher kann der Fehler bei gleichem N deutlich kleiner sein.
Wann hilft die Stichprobe nach Wichtigkeit?: Wenn die Dichte q(x) die Punkte dorthin legt, wo der Beitrag von f(x) groß ist, und die Gewichte f(x)/q(x) nicht zu stark springen. Eine schlechte q kann die Varianz umgekehrt erhöhen.
Worin unterscheidet sich die Schichtung von der gewöhnlichen Ziehung?: Die Schichtung teilt das Gebiet in Schichten und zieht in jeder Punkte, daher ist die Überdeckung gleichmäßiger und die Varianz des Mittels gewöhnlich kleiner als bei vollständig unabhängiger Gleichverteilung.

Machen Sie mit verwandten Themen in dieser Kategorie weiter — oder alle 85 in „Mathematische Visualisierung“.

Ganze Kategorie →

NeuHochschule / Forschung

Geometrie der Hauptkomponentenanalyse (PCA) / SVD

Simulation starten

Kovarianzellipse und Dimensionsreduktion über die Singulärwertzerlegung: Hauptkomponenten, erklärte Varianz und Rekonstruktionsfehler vom Rang 1.

NeuKinder

Monte-Carlo-Schätzung von π

Simulation starten

Gleichverteilte Zufallspunkte im Quadrat; Schätzung π ≈ 4·(Punkte im Kreis)/N.

NeuHochschule / Forschung

Gauß-Prozess: Regression

Simulation starten

Regression mit einem Gauß-Prozess zu RBF- und Matérn-Kernen: Korrelationslänge und Rauschen, Beobachtungen per Klick, a-posteriori-Mittelwert, Unsicherheitsband und Wahl des Punktes mit der größten Varianz.

NeuHochschule / Forschung

Bayes-Aktualisierung: konjugierte Prior

Simulation starten

Beta-Binomial-Aktualisierung: Kurven der A-priori- und A-posteriori-Verteilung, A-posteriori-Prädiktivwahrscheinlichkeit und Glaubwürdigkeitsintervalle.

NeuHochschule / Forschung

Optimierer des Gradientenverfahrens

Simulation starten

Vergleich von SGD, Momentum und Adam auf einem zweidimensionalen Relief der Verlustfunktion: Schrittweite, Krümmung, Stabilität und Iterationsbahnen.

NeuHochschule / Forschung

Potenzmethode: Konvergenz des Eigenwerts

Simulation starten

Konvergenz zum dominanten Eigenvektor: Verhältnis der spektralen Lücke, Rayleigh-Quotient, Residuum und normierte Iterationen.

Monte-Carlo-Integration und Varianzreduktion

Diagramme

Zum Modell

So funktioniert es

Wichtige Gleichungen

Häufige Fragen

Ähnliche Simulationen

Geometrie der Hauptkomponentenanalyse (PCA) / SVD

Monte-Carlo-Schätzung von π

Gauß-Prozess: Regression

Bayes-Aktualisierung: konjugierte Prior

Optimierer des Gradientenverfahrens

Potenzmethode: Konvergenz des Eigenwerts

Monte-Carlo-Integration und Varianzreduktion

Diagramme

Zum Modell

So funktioniert es

Wichtige Gleichungen

Häufige Fragen