Оглавление
Регион доверия
-
Основы оптимизации с использованием области доверия
- Область доверия – это подмножество целевой функции, аппроксимируемое моделью.
- Если модель адекватна, область доверия расширяется, если нет – сужается.
- Соответствие оценивается по отношению ожидаемого улучшения к фактическому.
- Используется пороговое значение коэффициента для определения доверия к модели.
-
Сравнение с линейным поиском
- Методы с областью доверия выбирают размер шага и направление, в отличие от линейного поиска, где выбирается только направление.
-
История и терминология
- Термин “область доверия” впервые использовал Соренсен в 1982 году.
- Флетчер в 1980 году назвал эти алгоритмы методами с ограниченным шагом.
- Голдфельд, Квандт и Троттер в 1966 году использовали термин “квадратичное восхождение на холм”.
-
Пример алгоритма Левенберга-Марквардта
- Алгоритм Левенберга-Марквардта ограничивает шаг, чтобы избежать слишком больших изменений.
- Размер области доверия (λ) изменяется на каждой итерации, чтобы соответствовать уменьшению функции затрат.
- Отношение ожидаемого уменьшения функции к фактическому используется для настройки размера области доверия.
-
Рекомендации и литература
- Статья Конна, Гулда, Шнабеля и Шульца описывает алгоритм доверительной области для оптимизации с нелинейными ограничениями.
- Юань представляет обзор алгоритмов оптимизации области доверия и последние достижения в этой области.
- Ссылки на внешние ресурсы, включая сайт Kranf и материалы конференции ICIAM 99.
Полный текст статьи: