Шеннон (единица измерения)
-
Определение и использование Шеннона
- Шеннон — единица измерения информации, названа в честь Клода Шеннона.
- Используется для описания информативности событий с определенной вероятностью.
- Отличается от бита, используемого для обработки и хранения данных.
-
Информационная энтропия и пропускная способность
- Шеннон служит единицей измерения энтропии события.
- Максимальная энтропия из n битов равна n Шеннонам.
- Используется для оценки пропускной способности канала.
-
Связь с другими единицами информации
- Шеннон связан с другими единицами через константы пропорциональности.
- Хартли описывает информацию в десятичном символе с равной вероятностью.
- Nat является естественной единицей информации, но не соответствует случаю равновероятности.
-
Информационные меры и контекст
- В теории информации количественная оценка информации невозможна без контекста.
- Существуют различные показатели информации, для которых Шеннон может использоваться.
- Пропускная способность и энтропия могут быть рассчитаны для конкретных источников информации.
-
Рекомендации
- Статья содержит рекомендации по использованию Шеннона и других единиц информации.
Полный текст статьи: