Функция Softmax

Функция Softmax Функция softmax используется в задачах классификации для преобразования векторов в вероятности классов.  Функция softmax является нелинейным вариантом мультиномиальной […]

Функция Softmax

  • Функция softmax используется в задачах классификации для преобразования векторов в вероятности классов. 
  • Функция softmax является нелинейным вариантом мультиномиальной логистической регрессии. 
  • В области обучения с подкреплением функция softmax используется для преобразования значений в вероятности действий. 
  • Вычислительная сложность softmax становится ограничивающим фактором в разработке крупных моделей нейронного языка. 
  • Существуют подходы для сокращения времени обучения, включая иерархический softmax и дифференцированный softmax. 
  • Математические свойства функции softmax включают отображение векторного пространства до границы стандартного (K-1)-мерного симплекса. 
  • Пересказана только часть статьи. Для продолжения перейдите к чтению оригинала. 

Полный текст статьи:

Функция Softmax — Википедия

Оставьте комментарий

Прокрутить вверх