Выпрямитель (нейронные сети)

От / / Оставьте комментарий

Выпрямитель (нейронные сети) ReLU (выпрямленная линейная единица) — популярная функция активации в глубоких нейронных сетях.  ReLU имеет преимущества, такие как […]

Artificial neural networks, Искусственные нейронные сети

Выпрямитель (нейронные сети)

  • ReLU (выпрямленная линейная единица) — популярная функция активации в глубоких нейронных сетях. 
  • ReLU имеет преимущества, такие как разреженная активация, лучшее распространение градиента и эффективные вычисления. 
  • ReLU может быть проблематичным из-за недифференцируемости в нуле и не ориентированности на ноль. 
  • Существуют варианты ReLU, такие как кусочно-линейные, протекающие ReLU, негерметичные ReLU, параметрические ReLU и другие нелинейные варианты. 
  • ReLU и его варианты используются в компьютерном зрении и распознавании речи с использованием глубоких нейронных сетей и вычислительной нейронауки. 

Полный текст статьи:

Выпрямитель (нейронные сети) — Википедия

Похожие статьи:

  1. Кусочно Кусочно Кусочно-определенная функция — это функция, область действия которой разделена на интервалы, для которых функция может...
  2. Кусочно-линейная функция Кусочно-линейная функция Определение кусочно-линейной функции Кусочно-линейная функция состоит из прямолинейных сегментов и является вещественнозначной.  Функция определена...
  3. Нейронные вычисления Нейронные вычисления Основы нейронных вычислений Нейронные вычисления — это обработка информации сетями нейронов.  Вычислительная теория сознания,...
  4. Кафе (программное обеспечение) Caffe (программное обеспечение) Основные подходы к обучению Контролируемое обучение: обучение с заранее определенными метками для классификации...
  5. Нейронные колебания Нейронные колебания Основы нейронных колебаний Нейронные колебания — это изменения в активности нейронов, которые могут быть...
  6. Кремниевый выпрямитель Выпрямитель с кремниевым управлением Определение и история SCR SCR — это четырехслойное твердотельное устройство, которое регулирует...
  7. Функция взмаха Функция взмаха Определение функции swish Функция swish — это математическая функция с обучаемым параметром β или...
  8. Рекуррентная нейронная сеть Рекуррентная нейронная сеть Рекуррентные нейронные сети (RNN) имеют рекурсивную структуру, которая позволяет им обрабатывать последовательности данных. ...
  9. Физическая нейронная сеть Физическая нейронная сеть Определение и применение физической нейронной сети Физическая нейронная сеть использует электрически настраиваемый материал...
  10. Масштабирование функций Масштабирование объектов Контролируемое обучение Обучение с заранее определенными целями и критериями оценки.  Включает методы классификации, регрессии,...
  11. Нейронная сеть Нейронная сеть Нейронная сеть состоит из взаимосвязанных элементов, называемых нейронами.  Нейроны могут быть биологическими клетками или...
  12. Взаимозависимые сети Взаимозависимые сети Основы теории сетей Теория сетей изучает сложные сети и их взаимодействия.  Взаимозависимость сетей фокусируется...
  13. Остаточная нейронная сеть Остаточная нейронная сеть Остаточные сети — архитектура нейронных сетей, использующая сопоставления идентификаторов для соединения слоев.  Остаточные...
  14. Сегмент сети Сегмент сети Определение сегмента сети Сегмент сети — это часть компьютерной сети, определяемая характером сети и...
  15. Электрическая сеть Электрическая сеть Основы электрических сетей Электрическая сеть — это соединение компонентов для передачи энергии.  Электрическая цепь...
  16. Контроль доступа к сети Контроль доступа к сети Определение и цели NAC NAC — это подход к компьютерной безопасности, объединяющий...
  17. Планирование и проектирование сети Планирование и проектирование сети Планирование и проектирование сети Итеративный процесс, включающий топологическое проектирование, сетевой синтез и...
  18. Сеть ближнего радиуса действия Сеть «Рядом со мной» Определение локальной сети Локальная сеть — это группа устройств, которые находятся рядом...
  19. Параметрическое уравнение Параметрическое уравнение Параметрические уравнения используются для описания кривых и поверхностей в математике.  Они позволяют выразить координаты...

Оставьте комментарий

Прокрутить вверх