Стохастическая аппроксимация
- Стохастический градиентный метод используется для оптимизации функций с неизвестными градиентами.
- Метод основан на аппроксимации условного математического ожидания градиента.
- Достаточные условия для сходимости алгоритма включают определенные ограничения на параметры.
- Алгоритм Кифера-Вулфовица основан на градиентном методе и используется для стохастической оценки максимума функции.
- Условия регулярности и сильная глобальная выпуклость функции M(x) являются ограничениями, которые могут быть ослаблены.
- Алгоритм Кифера-Вулфовица доказал сходимость последовательности xn к θ в вероятности и почти наверняка при определенных условиях.
- Пересказана только часть статьи. Для продолжения перейдите к чтению оригинала.
Полный текст статьи: