Оглавление
Информационное наполнение
-
Определение информации
- Информация – это уменьшение неопределенности.
- Информация измеряется в битах.
-
Примеры информации
- Информация о том, что кубик выпал с определенным числом, уменьшается неопределенность.
- Информация о том, что два кубика выпали с одинаковыми числами, также уменьшает неопределенность.
-
Аддитивность информации
- Информация, полученная из двух независимых источников, равна сумме информации из каждого источника.
-
Самоинформация
- Самоинформация – это информация, которую получает субъект, не зная о ней заранее.
- Самоинформация зависит от вероятности события.
-
Формула Шеннона
- Информация о событии с вероятностью
- P
- (
- ω
- n
- )
- {\displaystyle P(\omega _{n})}
- равна
- Единица измерения информации – Шеннон.
-
Примеры самоинформации
- Чем меньше вероятность события, тем больше самоинформация.
- При использовании основания логарифма 2, единица измерения – Шеннон.
- Пересказана только часть статьи. Для продолжения перейдите к чтению оригинала.
Полный текст статьи: