Цепь Маркова Монте-Карло
-
Байесовский вывод и вероятность
- Байесовская вероятность основана на теореме Байеса и теореме Бернштейна–фон Мизеса.
- Согласованность и теорема Кокса используются для проверки согласованности моделей.
- Правило Кромвеля и принцип правдоподобия применяются для оценки параметров моделей.
- Принцип безразличия и принцип максимальной энтропии используются для выбора между моделями.
-
Методы Монте-Карло с цепью Маркова
- Цепь Маркова Монте-Карло (MCMC) используется для получения выборок из сложных распределений вероятностей.
- Алгоритм Метрополиса–Гастингса является популярным методом MCMC.
- Методы MCMC применяются в байесовской статистике, вычислительной физике, биологии и лингвистике.
-
Общее объяснение MCMC
- MCMC создает выборки из непрерывной случайной величины с известной функцией плотности вероятности.
- Выборка используется для вычисления интегралов и моментов апостериорных распределений.
- MCMC подвержен «проклятию размерности», но существуют методы для уменьшения автокорреляции.
-
Примеры методов MCMC
- Выборка Гиббса обновляет каждую координату из полного условного распределения.
- Гамильтоновский метод Монте-Карло использует гамильтонову динамику для уменьшения автокорреляции.
- Псевдомаржинальный метод Метрополиса–Гастингса заменяет оценку плотности несмещенной оценкой.
- Дискретизация срезов чередует равномерную выборку в вертикальном и горизонтальном направлениях.
- Множественная попытка Metropolis позволяет выполнять более масштабные шаги.
- Обратимый переход изменяет размерность пространства для непараметрических байесовских моделей.
-
Взаимодействующие методологии MCMC
- Взаимодействующие методологии MCMC используют последовательность вероятностных распределений с возрастающей сложностью.
- Эти методы могут быть интерпретированы как параллельный запуск последовательности пробоотборников MCMC.
- Взаимодействующие методы Монте-Карло относятся к классу моделей частиц Фейнмана–Каца.
-
Квази-Монте-Карло
- Метод Квазимонте-Карло использует последовательности с низким расхождением вместо случайных чисел.
- Это позволяет сократить погрешность оценки и время сходимости.
- Методы Квазимонте-Карло с цепочкой Маркова, такие как Array–RQMC, сочетают рандомизированное моделирование и цепочку Маркова.
-
Определение сходимости цепи Маркова
- Задача состоит в определении количества шагов для достижения стационарного распределения.
- Хорошая цепочка имеет быстрое перемешивание и быстрое достижение стационарного распределения.
- Стандартный метод оценки сходимости — запуск нескольких независимых цепей и проверка отношения межцепочечных и внутрицепочечных отклонений.
-
Ограничения метода Монте-Карло
- Метод Монте-Карло с цепью Маркова может лишь приблизительно определить целевое распределение.
- Остаточный эффект от начальной позиции всегда присутствует.
-
Сложные алгоритмы и их преимущества
- Coupling из прошлого создает точные выборки за счет дополнительных вычислений.
- Методы случайного блуждания перемещаются вокруг равновесного распределения небольшими шагами.
- Эти методы просты в применении, но требуют много времени для исследования всего пространства.
-
Программное обеспечение для MCMC
- ParaMonte parallel Monte Carlo доступен на нескольких языках программирования.
- Программы WinBUGS / OpenBUGS/ MultiBUGS, MCSim, Тьюринг.jl, DynamicHMC.jl, АффиннОинварианТНЫЙ mc-cmc.jl, Генерал Джей Ло и другие.
- Блэкджекс, ведущий, НумПиро, PyMC, R с пакетами adaptMCMC, atmcmc, BRugs, mcmc, MCMCpack, ramcmc, rjags, rstan и др.
- Стэн, TensorFlow Probability, Korali, MacMCMC.
-
Дополнительные методы и теории
- Связь из прошлого, интегрированные вложенные аппроксимации Лапласа, центральная предельная теорема цепи Маркова, алгоритм Ланжевена с поправкой на метрополию.
-
Рекомендации и источники
- Кристоф Андрие, Нандо Де Фрейтас, Арно Дусе и Майкл И. Иордания, Введение в MCMC для машинного обучения, 2003.
- Карлин, Брэд; Чиб, Сиддхартха (1995). «Выбор байесовской модели с помощью методов Марковской цепи Монте-Карло». Журнал Королевского статистического общества, серия В, 57(3), 473-484.