Сеть глубоких убеждений
-
Определение и применение DBN
- DBN — это генеративная модель, состоящая из нескольких слоев скрытых единиц.
- Обученная без присмотра, DBN способна реконструировать входные данные.
- После обучения под наблюдением, DBN может выполнять классификацию.
-
Обучение DBN
- Обучение DBN включает в себя обучение без присмотра и под наблюдением.
- Обучение без присмотра основано на контрастной дивергенции, которая обеспечивает приближение к методу максимального правдоподобия.
- Процедура контрастной дивергенции включает в себя обновление весов и скрытых единиц измерения.
-
Применение DBN
- DBN находит применение в различных областях, включая электроэнцефалографию и разработку лекарств.
-
Обучение RBM
- RBM — это модель, основанная на генерирующей энергии, которая может быть обучена быстро, по одному уровню за раз.
- Обучение RBM включает в себя обновление весов с использованием градиентного спуска.
-
Процедура обучения DBN
- Обучение DBN начинается с инициализации видимых единиц измерения и обновления скрытых единиц измерения.
- После обновления скрытых единиц измерения происходит обновление видимых единиц измерения.
- Процесс повторяется до достижения желаемого критерия остановки.
-
Сравнение с другими методами
- Приближение CD к максимальному правдоподобию является грубым, но эмпирически эффективным.
-
Ссылки
- В статье есть внешние ссылки, которые могут быть полезны для дальнейшего изучения темы.