Субградиентный метод

От / / Оставьте комментарий

Оглавление1 Субградиентный метод1.1 Основы субградиентного метода1.2 Применение и ограничения1.3 Алгоритм субградиентного метода1.4 Результаты конвергенции1.5 Расширения и ограничения1.6 Рекомендации и дальнейшее […]

Convex analysis, Convex optimization, Mathematical optimization, Optimization algorithms and methods, Алгоритмы и методы оптимизации, Выпуклая оптимизация, Выпуклый анализ, Математическая оптимизация

Субградиентный метод

  • Основы субградиентного метода

    • Субградиентный метод – это метод оптимизации, который использует субградиенты для спуска к минимуму функции. 
    • Метод был разработан в 1950-х годах и широко используется в различных областях, включая машинное обучение и финансы. 

  • Применение и ограничения

    • Метод применяется для минимизации выпуклых функций, но не работает для строго выпуклых функций. 
    • Существуют различные модификации метода, включая методы проекции и расслоения, которые могут быть более эффективными в определенных ситуациях. 

  • Алгоритм субградиентного метода

    • Метод начинается с произвольной точки и использует субградиент для определения направления спуска. 
    • Размер шага определяется с помощью различных правил, которые могут быть доказаны как сходящиеся. 

  • Результаты конвергенции

    • Для постоянной длины шага и масштабируемых субградиентов метод сходится к приближению к минимуму. 
    • Современные версии метода расслоения могут быть более эффективными, но имеют свои ограничения. 

  • Расширения и ограничения

    • Метод может быть расширен для решения задач с ограничениями и ограниченной оптимизации. 
    • Существуют модификации метода, которые могут быть использованы для решения задач с неосуществимыми точками. 

  • Рекомендации и дальнейшее чтение

    • Статья содержит ссылки на курсы Стэнфордской выпуклой оптимизации для дальнейшего чтения. 

Полный текст статьи:

Субградиентный метод — Википедия

Похожие статьи:

  1. Теорема Урсеску Оглавление1 Теорема Урсеску1.1 Определение и свойства выпуклых множеств1.2 Теорема о выпуклых множествах1.3 Теорема о пересечении выпуклых...
  2. Путешествие во время пандемии COVID-19 Оглавление1 Travel during the COVID-19 pandemic1.1 Пандемия COVID-19 и её влияние на туризм1.2 Эффективность и последствия...
  3. Международная конференция по машинному обучению Оглавление1 Международная конференция по машинному обучению1.1 Основные подходы к обучению в ИИ1.2 Методы машинного обучения1.3 Автоматические...
  4. Скорость обучения Оглавление1 Скорость обучения1.1 Основные понятия машинного обучения1.2 Методы машинного обучения1.3 Алгоритмы машинного обучения2 Скорость обучения —...
  5. Выпуклая функция – Arc.Ask3.Ru Оглавление1 Выпуклая функция1.1 Определение выпуклых функций1.2 Свойства выпуклых функций1.3 Неравенство Йенсена1.4 Определение выпуклости1.5 Альтернативные наименования1.6 Свойства...
  6. Метод внутренней точки Оглавление1 Метод внутренней точки1.1 Обзор методов решения задач выпуклого программирования1.2 Теоретические аспекты1.3 Практические соображения2 Метод внутренней...
  7. Эллипсоидный метод Оглавление1 Метод эллипсоида1.1 Обзор метода эллипсоида1.2 История и развитие1.3 Основные шаги метода1.4 Варианты метода1.5 Сравнение с...
  8. Выпуклая серия Оглавление1 Выпуклый ряд1.1 Определение и свойства выпуклых множеств1.2 Свойства выпуклых множеств в топологических векторных пространствах1.3 Свойства...
  9. Ответные меры на пандемию COVID-19 в июне 2020 г. – Википедия Оглавление1 Responses to the COVID-19 pandemic in June 20201.1 Пандемия COVID-19 и её последствия1.2 Реакция ООН1.3...
  10. Векторный расслоение Оглавление1 Векторный пучок1.1 Определение векторного расслоения1.2 Примеры векторных расслоений1.3 Свойства векторных расслоений1.4 Операции с векторными расслоениями1.5...
  11. Векторный расслоение Оглавление1 Векторный пучок1.1 Определение векторного расслоения1.2 Примеры и свойства1.3 Гладкие векторные расслоения1.4 К-теория и алгебраическая геометрия1.5...
  12. Расширенный метод Лагранжа Оглавление1 Расширенный метод Лагранжа1.1 Обзор метода расширенного Лагранжа1.2 История и развитие1.3 Применение в машинном обучении1.4 Эффективность...
  13. Б-метод Оглавление1 B-Метод1.1 Обзор метода B1.2 История и развитие метода B1.3 Применение метода B1.4 Конференции и публикации1.5...
  14. Задача оптимизации Оглавление1 Задача оптимизации1.1 Основы оптимизации1.2 Задача непрерывной оптимизации1.3 Задача комбинаторной оптимизации1.4 Примеры задач оптимизации1.5 Вариации и...
  15. Фитнес-функция Оглавление1 Функция фитнеса1.1 Основы оптимизации1.2 Методы оптимизации1.3 Функция пригодности1.4 Методы оптимизации по Парето1.5 Каскадная взвешенная сумма1.6...
  16. Фитнес-функция Оглавление1 Функция фитнеса1.1 Основы оптимизации1.2 Методы оптимизации1.3 Функция пригодности1.4 Методы оптимизации по Парето1.5 Каскадная взвешенная сумма1.6...
  17. Метод Эйлера Метод Эйлера Метод Эйлера – простой и эффективный численный метод решения дифференциальных уравнений.  Метод Эйлера основан...
  18. Многокритериальная оптимизация Оглавление1 Многоцелевая оптимизация1.1 Основы многоцелевой оптимизации1.2 История и развитие1.3 Методы решения1.4 Примеры и приложения1.5 Решение задач...
  19. Выпуклая оптимизация Выпуклая оптимизация Выпуклая оптимизация – раздел математической оптимизации, изучающий минимизацию выпуклых функций над выпуклыми множествами.  Задачи...
  20. Нелинейный метод наименьших квадратов Оглавление1 Нелинейный метод наименьших квадратов1.1 Основы нелинейной оптимизации1.2 Метод Гаусса-Ньютона1.3 Градиентные методы1.4 Методы прямого поиска1.5 Рекомендации2...
  21. Последовательное чрезмерное расслабление Оглавление1 Последовательное чрезмерное расслабление1.1 Определение и история метода SOR1.2 Математическая основа метода SOR1.3 Анализ сходимости и...
  22. Анализ задач Оглавление1 Анализ задач1.1 Анализ задач1.2 Анализ критически важных задач в области безопасности (SCTA)1.3 Приложения анализа задач1.4...

Оставьте комментарий

Прокрутить вверх