Оглавление [Скрыть]
Глубокое обучение
-
История и развитие глубокого обучения
- Глубокое обучение началось с работы Хопфилда в 1982 году.
- В 1990-х годах были разработаны нейронные сети для распознавания речи, но они не превзошли GMM-HMM.
- В конце 1990-х SRI International исследовала глубокие нейронные сети для распознавания речи.
- В 2003 году LSTM начал конкурировать с традиционными методами распознавания речи.
-
Промышленное применение и развитие
- В начале 2000-х CNNS обрабатывали до 20% чеков в США.
- В 2006 году было показано, что DNN могут быть эффективно обучены с использованием генеративных моделей.
- В 2010 году DNN с контекстно-зависимыми состояниями HMM показали лучшие результаты.
- В 2012 году CNN и LSTM значительно улучшили результаты в компьютерном зрении и распознавании речи.
-
Революция в аппаратном обеспечении
- В 2009 году Nvidia способствовала “большому взрыву” глубокого обучения, используя графические процессоры.
- Графические процессоры значительно ускоряют алгоритмы обучения.
-
Современные достижения
- Глубокое обучение превзошло другие методы в соревнованиях по машинному обучению.
- В 2011-2012 годах произошли значительные изменения в распознавании изображений и объектов.
- В 2014 году VGG-16 победила в конкурсе ImageNet, демонстрируя эффективность глубокого обучения.
- Классификация изображений была расширена до создания описаний изображений с использованием CNN и LSTM.
- Пересказана только часть статьи. Для продолжения перейдите к чтению оригинала.