Категориальное распределение
-
Основы распределения Дирихле
- Распределение Дирихле используется для моделирования категориальных данных с неизвестными вероятностями.
- Распределение Дирихле имеет форму многомерного полинома, где каждый параметр соответствует вероятности для отдельной категории.
-
Применение в байесовском анализе
- Распределение Дирихле применяется в байесовском анализе для моделирования категориальных данных и обновления апостериорных вероятностей.
- Апостериорная вероятность отражает степень уверенности в наблюдаемых данных после учета предыдущих наблюдений.
-
Оценка параметров
- Максимальная апостериорная оценка параметров p в модели Дирихле — это режим апостериорного распределения.
- Для обеспечения соблюдения условий, при которых все параметры больше 1, рекомендуется устанавливать αi > 1.
-
Предельная вероятность и прогнозирующее распределение
- Предельная вероятность — это совместное распределение наблюдений без учета предыдущих параметров.
- Апостериорное прогнозирующее распределение — это распределение нового наблюдения, учитывая предыдущие наблюдения.
-
Решающая строка и условное распределение
- Решающая строка формулы апостериорной прогнозирующей вероятности показывает, что она эквивалентна ожидаемому значению апостериорного распределения.
- Условные распределения в байесовских сетях с категориальными переменными часто «сворачиваются» в полиномиальное распределение Дирихле.
-
Методы выборки
- Существуют различные методы выборки из категориального распределения, включая выборку с обратным преобразованием и выборку с использованием распределения Гумбеля.
Полный текст статьи: