Оглавление
Световой луч
-
Обзор платформы LightGBM
- LightGBM – это бесплатная распределенная платформа для машинного обучения, разработанная Microsoft.
- Она основана на алгоритмах дерева решений и предназначена для задач ранжирования и классификации.
- Платформа фокусируется на производительности и масштабируемости.
-
Особенности и преимущества
- Поддерживает различные алгоритмы, включая GBT, GBDT и другие.
- Обладает преимуществами XGBoost, такими как разреженная оптимизация, параллельное обучение и другие.
- Отличается конструкцией деревьев, не выращивая их по уровням, а по листьям.
- Использует высокооптимизированный алгоритм на основе гистограмм для эффективности и памяти.
-
Поддержка и использование
- Работает на различных операционных системах, включая Linux, Windows и macOS.
- Поддерживает языки программирования C++, Python, R и C#.
- Исходный код доступен под лицензией MIT и на GitHub.
-
Методы оптимизации
- Односторонняя выборка на основе градиента (GOSS) сохраняет экземпляры с большими градиентами, отбрасывая малые.
- Эксклюзивное пакетирование функций (EFB) объединяет эксклюзивные функции, уменьшая размерность без потери точности.
-
Дополнительные ресурсы
- Ссылки на другие статьи по машинному обучению и рекомендации по дальнейшему чтению.
- GitHub-репозиторий LightGBM и исследование Microsoft доступны для изучения.