Стохастическая аппроксимация

Определение «Стохастическая аппроксимация» по БСЭ:
Стохастическая аппроксимация (от греч. stochastikos - умеющий угадывать, проницательный и лат. approximo - приближаюсь)
метод решения широкого класса задач статистического оценивания, при котором каждое следующее значение оценки получается в виде основанной лишь на новом наблюдении поправки к уже построенной оценке. Основными чертами, обусловившими популярность С. а. в теоретических и прикладных работах, явились её непараметричность (применимость при весьма скудной информации об объекте наблюдения) и рекуррентность (простота пересчёта оценки при поступлении нового результата наблюдений). С. а. Применяется во многих прикладных задачах теории управления, обучения, в задачах техники, биологии, медицины. С. а. описана в 1951 американскими статистиками Г. Роббинсом и С. Монро, которые предложили рекуррентный план отыскания корня уравнения регрессии, т. е. корня θ уравнения r(x) = α в ситуации, когда каждое измеренное значение y_к функции R (x) в точке X_k содержит случайную ошибку.
Процедура Роббинса - Монро даётся формулой x_K+i = X_k +а_к (у_к - α).
При некоторых условиях на функцию R (x), последовательность a_k, стремящуюся к нулю, и на характер случайных ошибок доказано, что X_k →∞ при увеличении к. Позже метод С. а. был применен и для решения др. задач: отыскания максимума функции регрессии, оценки неизвестных параметров распределения по наблюдениям и др. На основе изучения предельного распределения нормированной разности x_k - θ построены асимптотически наилучшие процедуры С. а., в которых последовательность а_к нужно выбирать зависящей от наблюдений.
Лит.: Вазан М., Стохастическая аппроксимация. пер. с англ., М., 1972; Невельсон М. Б., Хасьминский Р. З., Стохастическая аппроксимация и рекуррентное оценивание, М., 1972.
Р. З. Хасьминский.

Стороны горизонта    Стохастическая аппроксимация    Стохастический процесс то