Градиентный спуск (2D)

Градиентный спуск — это фундаментальный алгоритм оптимизации, используемый для поиска минимума функции. Этот симулятор визуализирует процесс в двух измерениях, где функция f(x,y) представляет собой поверхность, например, чашу или эллиптическую впадину. Линии уровня, или изолинии, функции f(x,y) — это кривые постоянного значения функции, аналогичные горизонталям на топографической карте. Алгоритм итеративно обновляет текущую точку (x,y), делая небольшой шаг в направлении, противоположном градиенту функции, в соответствии с правилом обновления: (x,y) ← (x,y) − η∇f(x,y). Здесь ∇f(x,y) — вектор градиента, указывающий направление наискорейшего роста функции, а η (эта) — скорость обучения, положительная скалярная величина, контролирующая размер шага. Повторяя шаги против градиента, траектория спускается к локальному минимуму. Визуализация демонстрирует, как выбор скорости обучения и начальной позиции влияет на сходимость. Слишком малая скорость приводит к медленному прогрессу, а слишком большая может вызвать перескок и колебания или даже расходимость. Модель упрощает реальную оптимизацию, используя гладкие выпуклые функции с единственным глобальным минимумом, избегая сложностей, таких как седловые точки, шум или многомерные пространства параметров. Взаимодействие с этой симуляцией помогает учащимся развить интуитивное понимание основных механизмов градиентной оптимизации — принципа, лежащего в основе обучения машинных моделей, инженерного проектирования и различных научных процедур подгонки.