Условия Вулфа

• Основы условий Вулфа

  • Условия Вулфа используются в квазиньютоновских методах для минимизации функций. 
  • Они обеспечивают эффективный поиск приемлемых длин шагов и не сводят функцию к минимуму. 

• Алгоритм линейного поиска

  • Алгоритм использует условия Вулфа для определения направления поиска. 
  • Длина шага удовлетворяет условиям Вулфа, если она уменьшает функцию и уменьшает кривизну. 

• Правило Армихо и кривизна

  • Правило Армихо гарантирует уменьшение функции на заданную величину. 
  • Условие кривизны ограничивает увеличение кривизны при увеличении шага. 

• Сильное условие Вулфа

  • Сильные условия Вулфа приближают шаг к критической точке функции. 

• Обоснование условий Вулфа

  • Условия Вулфа способствуют сходимости градиента к нулю. 
  • В квазиньютоновском методе они гарантируют положительную определенность матрицы обновления. 

• Комментарии и рекомендации

  • Условия Вулфа сложнее, чем условия Армихо. 
  • Алгоритм градиентного спуска с условиями Армихо имеет лучшую теоретическую гарантию. 
  • Статья также упоминает поиск по строке с обратным отслеживанием и рекомендует дальнейшее чтение.