Оглавление
Регуляризация эластичной сети
-
Метод эластичной сетки
- Метод регуляризованной регрессии, сочетающий штрафы L1 и L2
- Более точен, чем ЛАССО и гребень
- Преодолевает ограничения ЛАССО
-
Ограничения ЛАССО
- Насыщается при большом p и маленьком n
- Выбирает одну переменную из группы сильно коррелированных переменных
-
Квадратичный штрафной член
- Делает функцию потерь сильно выпуклой
- Имеет уникальный минимум
-
Эластичная сетка и ЛАССО
- Включает регрессию ЛАССО и гребня
- Наивная версия требует двойного усечения
-
Применение метода эластичной сетки
- Метод опорных векторов
- Метрическое обучение
- Оптимизация портфеля
- Прогноз рака
-
Сведение к методу опорных векторов
- Доказано в 2014 году
- Позволяет использовать высокооптимизированные SVM-решатели
- Включает графическое ускорение
-
Программное обеспечение
- Glmnet: пакет с исходным кодом R и MATLAB
- JMP Pro 11: регуляризация эластичной сети
- pensim: распараллеленный метод настройки ℓ параметров
- scikit-learn: линейная и логистическая регрессия с регуляризацией эластичной сети
- SVEN: реализация в Matlab
- SpaSM: реализация в Matlab
- Apache Spark: поддержка в MLlib
- SAS: процедуры Glmselect и Viya Regselect