Рекуррентная нейронная сеть
- Рекуррентные нейронные сети (RNN) имеют рекурсивную структуру, которая позволяет им обрабатывать последовательности данных.
- RNN могут быть классифицированы по различным типам, включая рекуррентные сети с дискретным временем и иерархические рекуррентные нейронные сети.
- Рекуррентные многослойные сети персептронов (RMLP-сети) состоят из каскадных подсетей с прямыми соединениями.
- Рекуррентная нейронная сеть с несколькими временными шкалами (MTRNN) моделирует функциональную иерархию мозга.
- Нейронные машины Тьюринга (NTMS) расширяют рекуррентные нейронные сети, подключая их к внешним ресурсам памяти.
- Дифференцируемые нейронные компьютеры (DNC) являются расширением NTMS, позволяющим использовать нечеткие значения адресов памяти.
- Обучение в рекуррентных нейронных сетях может быть выполнено с использованием градиентного спуска и различных методов глобальной оптимизации.
- Пересказана только часть статьи. Для продолжения перейдите к чтению оригинала.
Полный текст статьи: