Скорость сходимости процессов стохастической аппроксимации

Скорость сходимости процессов стохастической аппроксимации  [c.361]

Оценка качества конкретных процессов стохастической аппроксимации требует, в первую очередь, информации о скорости сходимости соответствующих итеративных схем.  [c.361]


В литературе обсуждаются два подхода к ускорению сходимости процедур стохастической аппроксимации. Первый подход связан с соответствующим выбором последовательности а или ап и сп . Ясно, что выбор параметров процедуры, учитывающий информацию о поведении функции регрессии, должен увеличить скорость сходимости процесса. Второй подход к ускорению процесса аппроксимации заключается в использовании большего числа наблюдений на каждом шаге. Ясно,  [c.363]

В 2 рассматриваются классические схемы одномерной стохастической аппроксимации и некоторые их модификации. Основное внимание здесь уделяется итеративным процедурам решения безусловной экстремальной задачи вида (1.2). Параграф 3 посвящен условиям сходимости многомерных процессов стохастической аппроксимации. Помимо классических схем здесь излагаются и результаты, полученные в последние годы.. В 4 приводится обзор обобщений схем стохастической аппроксимации на случай решения условных экстремальных задач. Только в этом случае стохастическая аппроксимация может рассматриваться как итеративный метод стохастического программирования. В 5 исследуется важный для приложений вопрос о скорости сходимости и возможных путях ускорения сходимости процессов стохастической аппроксимации. Процедуры, рассмотренные в 6 и 7, позволяют в ряде случаев отказаться от основных допущений, на которых основаны классические схемы стохастической аппроксимации, — от одноэкстремальности целевого функционала задачи и несмещенности оценок наблюдаемых случайных величин.  [c.343]