Стохастическая аппроксимация

Стохастическая аппроксимация — рекуррентный метод построения состоятельной последовательности оценок решений уравнений регрессии и экстремумов функций регрессии в задачах непараметрического оценивания. В биологии, химии, медицине используется для анализа результатов опытов. В теории автоматического управления применяется как средство решения задач распознавания, идентификации, обучения и адаптации[1]. Основоположниками метода стохастической аппроксимации являются Кифер, Вольфовиц[2], Робинс, Монро [3].

Поиск решения уравнения регрессии

Пусть каждому значению параметра $x$ соответствует измеряемая опытным путём случайная величина $y$ с функцией распределения $F(y|x)$ , причем математическое ожидание величины $y$ при фиксированном параметре $x$ $m(y|x)=m(x)$ . Требуется найти решение уравнения регрессии $m(x)=\alpha$ . Предполагается, что решение уравнения регрессии единственно, а функции $F(y|x)$ и $m(x)$ неизвестны.

Процедура стохастической аппроксимации для получения оценок корня ${\hat {x}}$ уравнения регрессии $m({\hat {x}})=\alpha$ заключается в использовании полученной на основании опыта обучающей выборки измеряемых случайных величин $y_{1},...,y_{n}$ .

Оценка ${\hat {x_{n+1}}}$ искомого корня находится на основе предыдущей оценки ${\hat {x_{n}}}$ с помощью обучающего значения измеренной случайной величины $y_{n}$ с помощью соотношения ${\hat {x_{n+1}}}={\hat {x_{n}}}+a_{n}(\alpha -y_{n})$ , где $n\geqslant 1$ , ${\hat {x_{1}}}$ - произвольное число[3].

Если последовательность коэффициентов $a_{n}$ удовлетворяет условиям $a_{n}>0$ , $\sum _{n=1}^{\infty }a_{n}=\infty$ , $\sum _{n=1}^{\infty }a_{n}^{2}<\infty$ , то при $n\to \infty$ оценка ${\hat {x_{n+1}}}$ стремится по вероятности к корню уравнения $m({\hat {x}})=\alpha$ .

При некоторых дополнительных требованиях к функции регрессии $m(x)$ оценки ${\hat {x_{n+1}}}$ могут сходится в среднеквадратическом к решению уравнения регрессии [4][5].

Примеры

Твёрдость сплава меди с железом $y$ зависит от времени $x$ , в течение которого сплав подвергается воздействию высокой температуры. В этом случае измеряемой случайной величиной является твёрдость сплава $y$ , а задача состоит в определении времени ${\hat {x}}$ , при котором сплав имеет заданную твёрдость $y=\alpha$ [6].

Поиск экстремума функции регрессии

Оценка ${\hat {x_{n+1}}}$ экстремального значения функции регрессии находится на основе предыдущей оценки ${\hat {x_{n}}}$ и обучающих значений измеренной случайной величины $y_{2n}$ и $y_{2n-1}$ с помощью соотношения ${\hat {x_{n+1}}}={\hat {x_{n}}}+{\frac {a_{n}}{c_{n}}}(y_{2n}-y_{2n-1})$ , где $n\geqslant 1$ , ${\hat {x_{1}}}$ - произвольное число, $a_{n}$ - последовательность положительных чисел, а последовательности $y_{2n}$ и $y_{2n-1}$ независимы и соответствуют значениям параметра ${\hat {x_{n}}}+c_{n}$ и ${\hat {x_{n}}}-c_{n}$ [2].

Если последовательности коэффициентов $a_{n}$ и $c_{n}$ удовлетворяют условиям $a_{n}>0$ , $c_{n}>0$ , $c_{n}\to 0$ при $n\to \infty$ , $\sum _{n=1}^{\infty }a_{n}=\infty$ , $\sum _{n=1}^{\infty }a_{n}c_{n}<\infty$ , $\sum _{n=1}^{\infty }({\frac {a_{n}}{c_{n}}})^{2}<\infty$ , то при $n\to \infty$ оценка ${\hat {x_{n+1}}}$ стремится по вероятности к экстремальному значению функции регрессии.

При некоторых дополнительных требованиях к функции регрессии $m(x)$ оценки ${\hat {x_{n+1}}}$ могут сходится в среднеквадратическом к экстремуму функции регрессии[5].

Примеры

Урожайность участка земли $y$ зависит от количества удобрений $x$ . В этом случае измеряемой случайной величиной является урожайность $y$ , а задача состоит в определении количества удобрений ${\hat {x}}$ , при котором участок земли имеет макcимальную урожайность[6].

Примечания

Цыпкин Я.З. “Адаптация, обучение и самообучение в автоматических системах”, // Автоматика и телемеханика. — 1966. — № 1. — С. 23–61. — ISSN 0005-2310. — URL: http://mi.mathnet.ru/at10991
Кiefer J., Wolfowitz J. Stochastic Estimation of the Maximum of a Regression Function // Ann. Math. Statistics. — 1952. — v. 23. — № 3.
Robbins Н., Monro S. A stochastic approximation method // Annals of Math. Stat. — 1951. — v. 22. — № 1. — С. 400—407.
Вазан, 1972, с. 18.
Логинов Н. В. “Методы стохастической аппроксимации” // Автоматика и телемеханика. — 1966. — № 4. — С. 185–204. — ISSN 0005-2310. — URL: http://mi.mathnet.ru/at11080
Вазан, 1972, с. 10.

Литература

Вазан М. Стохастическая аппроксимация. — М.: Мир, 1972. — 295 с.
Цыпкин Я.З. Основы теории обучающихся систем. — М.: Наука, 1970. — 251 с.
Цыпкин Я.З. Адаптация и обучение в автоматических системах. — М.: Наука, 1968. — 399 с.

This article is issued from Wikipedia. The text is licensed under Creative Commons - Attribution - Sharealike. Additional terms may apply for the media files.

[1] Цыпкин Я.З. “Адаптация, обучение и самообучение в автоматических системах”, // Автоматика и телемеханика. — 1966. — № 1. — С. 23–61. — ISSN 0005-2310. — URL: http://mi.mathnet.ru/at10991

[Kiefer-2] Кiefer J., Wolfowitz J. Stochastic Estimation of the Maximum of a Regression Function // Ann. Math. Statistics. — 1952. — v. 23. — № 3.

[Robbins-3] Robbins Н., Monro S. A stochastic approximation method // Annals of Math. Stat. — 1951. — v. 22. — № 1. — С. 400—407.

[_2b831aa01107411b-4] Вазан, 1972, с. 18.

[Loginov-5] Логинов Н. В. “Методы стохастической аппроксимации” // Автоматика и телемеханика. — 1966. — № 4. — С. 185–204. — ISSN 0005-2310. — URL: http://mi.mathnet.ru/at11080

[_2b831aa011074113-6] Вазан, 1972, с. 10.