Негэнтропия
- Негэнтропия — мера расстояния до нормальности в теории информации и статистике.
- Термин «отрицательная энтропия» был введен Эрвином Шредингером в 1944 году.
- Негэнтропия измеряет разницу в энтропии между данным распределением и гауссовым распределением.
- Негэнтропия всегда неотрицательна, инвариантна при любом линейном обратимом изменении координат.
- Негэнтропия используется в статистике и обработке сигналов, связана с сетевой энтропией.
- Существует физическая величина, связанная со свободной энергией и изоморфная негэнтропии.
- Принцип негэнтропии информации Бриллюэна: для изменения значения информационного бита требуется как минимум kTln2 энергии.
Полный текст статьи: