Наименьшие абсолютные отклонения
-
Определение и применение метода наименьших абсолютных отклонений (LAD)
- LAD — это метод регрессии, который минимизирует сумму абсолютных значений ошибок.
- Он аналогичен методу наименьших квадратов, но использует абсолютные значения вместо квадратов.
- LAD применяется в ситуациях, когда выбросы в данных не требуют особого внимания.
-
Формулировка задачи
- Задача состоит в нахождении функции f, которая аппроксимирует данные, минимизируя различия между точками данных и функцией f.
- Функция f может иметь различные формы, включая линейную и квадратичную.
-
Методы решения
- Итеративные методы, такие как симплексный метод и метод Весоловского, используются для решения задачи.
- Рекурсивный подход к уменьшению размерности и проверка всех комбинаций линий на минимум ошибок также являются методами решения.
-
Свойства и преимущества
- Линия наименьших абсолютных отклонений всегда проходит через две точки данных, если нет множественных решений.
- Метод LAD устойчив к выбросам и придает одинаковый вес всем наблюдениям.
-
Вариации и расширения
- Квантильная регрессия является вариацией метода LAD, где функция абсолютного значения обобщается на наклонную функцию.
- Метод LAD может быть расширен для включения линейных ограничений и регуляризации с помощью LASSO.
-
Рекомендации
- Для дальнейшего чтения рекомендуется обратиться к специализированной литературе.
Полный текст статьи: