Сеть Хопфилда
-
Основы сети Хопфилда
- Сеть Хопфилда — это искусственная нейронная сеть, разработанная Джоном Хопфилдом в 1982 году.
- Она состоит из связанных нейронов, которые могут хранить и извлекать информацию.
- Сеть Хопфилда имеет два основных типа соединений: синапсы и связи.
-
Обучение и память
- Обучение сети Хопфилда заключается в снижении энергии состояний, которые она должна запомнить.
- Сеть может использоваться для восстановления искаженных входных данных к наиболее похожему обученному состоянию.
- Обучение происходит путем постепенного изучения новых паттернов без использования старых.
-
Правила обучения
- Существуют различные правила обучения, которые должны быть локальными и постепенными.
- Одно из правил, правило Хебба, является локальным и постепенным, и оно используется для ассоциативного обучения.
- Другое правило, правило аиста, также является локальным и постепенным и обеспечивает большую пропускную способность сети.
-
Ложные паттерны и емкость
- Сеть может сходиться к ложным паттернам, которые также являются локальными минимумами энергии.
- Емкость сети Хопфилда зависит от количества нейронов и соединений и может достигать 0,14 на каждый сохраненный вектор.
-
Сравнение с человеческой памятью
- Модель Хопфилда имитирует ассоциативную память, но может вызывать вторжения из-за схожести семантически связанных элементов.
- Емкость хранилища сети Хопфилда пропорциональна квадратному корню из количества нейронов.
- Пересказана только часть статьи. Для продолжения перейдите к чтению оригинала.